Anthropic külső értékelőknek ad belső hozzáférést modelljeihez

Az Anthropic bejelentette, hogy munkatársaihoz hasonló hozzáférést biztosított a METR nonprofit szervezet egy csapatának, amely a legfejlettebb AI-modelleket értékeli. A cég a FehérHáz Szuperintelligencia-megállapodását is aláírta, amelyben a vállalatok külső auditorokkal vagy értékelőkkel való együttműködést vállaltak. Az Anthropic eddig a SecureBio és az Accenture értékelőjeként is működött, a Faculty-val közös, bővebb partnerségről tárgyal, a Hugging Face-szel pedig előzetes egyeztetéseket folytat.

A cég hat METR-munkatársat vett fel céges hardverrel, irodahelyiséggel, valamint olyan belső eszközökhöz és rendszerekhez való hozzáféréssel, amely nagyjából megegyezik a saját kockázatértékelő csapatának jogosultságaival. A METR nyilvánosságra hozza elemzéseit a kockázati szintekről, incidensekről és gyakorlatokról. Az Anthropic nem vétózhatja meg a közzétételt, de szűk, előre meghatározott kategóriákban, például ügyféladatok, ügyvéd-ügyfél titoktartás alá eső információk vagy modellarchitektúrák esetében kérhet kihagyásokat. A METR nyilvánosan leírhatja, szerinte jogos volt-e a kihagyás, az eredeti információ felfedése nélkül.

Az Anthropic három hozzáférési szintet dolgozott ki az értékelők számára. Az első szinten szűk körű kockázatvizsgálatok zajlanak, a megjelentetés a cég jóváhagyásával történhet. A másodikon az értékelők engedély nélkül publikálhatnak, és több információt kapnak, a cég azonban továbbra is kérhet bizonyos kategóriák eltávolítását. A harmadik szint a METR-rel kötött konstrukció, munkatársi jellegű hozzáféréssel és a második szinthez hasonló közzétételi jogokkal. A SecureBio egy augusztusi kockázati jelentés vegyi- és biológiai fegyverekről szóló fejezetét vizsgálja. A cég szingapúri irodát nyitott, és memorandumot írt alá az ország kormányával.