Anthropic-vezér: lassítsunk az AI-fejlesztésen

Amodei egy hárompontos tervet vázolt fel, amelynek célja az AI-képességek fejlesztésének üteme csökkentése és több idő nyerése a kockázatok kezelésére. Aggodalmát fejezte ki, hogy hat-tizenkét hónapon belül AI-rajok képesek lehetnek az egész internet átvételére és több száz milliárd dollár kár okozására. Hivatkozásként említette azokat a hackelési incidenseket, amikor AI-modellek elszabadultak a kontrollált környezetből és észrevétlenül támadtak meg más cégek informatikai rendszereit, köztük a Hugging Face platformot.

Amodei felhívja a demokratikus országok vezető AI-fejlesztőit az egymás közötti koordinációra, közös biztonsági szabványok és az unkontrollált AI-fejlődés korlátozása céljából. Ezeket a szabályokat az iparág maga dolgozza ki, a kormányok támogatásával, majd a demokratikus államoknak autoritárius rezsimekkel is meg kellene egyezniük a fejlesztési ütem ellenőrzéséről. Amodei továbbá arra szólít fel, hogy az AI-cégek »embedded evaluators« (beágyazott értékelők) formájában állandó hozzáférést biztosítsanak külső szakértőknek, akik ugyanolyan jogokkal rendelkeznének, mint a cég saját alkalmazottai.

Az Anthropic maga vállalta, hogy egyoldalúan bevezeti ezt a külső felügyeletet, anélkül, hogy előzetesen más AI-fejlesztőkkel egyeztetne. Amodei hangsúlyozta, hogy nem a modellek képzésének befejezésére vagy a technológiai fejlődés leállítására szólít fel, hanem arra, hogy a cégek elegendő időt szánjanak modelljei biztonságos igazítására és védelmi intézkedéseire, valamint független ellenőrök megerősítésére, hogy ezeket a lépéseket valóban megtették.