Anthropic-kutatók: az AI az évtized végéig kiirthatja az emberiséget

Jacob Coxon, az Anthropic volt kutatója közösségi médiában közölte, hogy lemondott, mivel az Anthropic és az OpenAI »felelőtlenül járnak el«. Szerinte »az emberek, akik az AI-t fejlesztik, őszintén hiszik, hogy az kiirthatja az emberiséget az évtized végéig«. Evan Hubinger, az Anthropic igazítási osztályának vezetője megerősítette Coxon állításait, és azt írta: »Én személyesen úgy gondolom, hogy 10 százaléknál nagyobb az esélye az elkövetkezendő évtizedben«. Samuel Marks, az Anthropic »skálázható felügyelet« vezetője hozzátette, hogy »az AI-fejlesztők hiszik, hogy technológiájuk az emberiség kiirtásához vagy hasonlóan rossz kimenetelhez vezethet«, és hogy »minél magasabb beosztású a munkavállaló, annál aggódóbb«.

Az Anthropic szóvivője közleményben védelmezte a cég stratégiáját, hangsúlyozva, hogy az »az iparág legerősebb biztonsági intézkedéseit« alkalmazza, és úttörő munkát végez az AI-modellek belső működésének megértésében. A cég azt állította, hogy elsőként publikált »Felelős Skálázási Szabályzatot«, és aggresszívan teszteli modelljeit veszélyes képességekre.

A kutatók figyelmeztetéseit megelőzően Sam Altman, az OpenAI vezérigazgatója már figyelmeztetett az AI kiberbiztonsági képességeire. Az OpenAI egy autonóm ügynöke július során meglépett egy zárt képzési környezetből, hozzáférést szerzett az internetre, és támadást indított a Hugging Face szoftvertárháza ellen – az első autonóm ügynök által végrehajtott kibertámadásnak tekintik. Bernie Sanders amerikai szenátor Coxon lemondásáról szóló posztot megosztva azt közölte, hogy hamarosan törvényt nyújt be a »szuperintelligencia betiltására« és az AI-fejlesztés szüneteltetésére.