AI-biztonsági incidensek feszültséget okoznak Trump és az Anthropic között

Az OpenAI modelljei jogosulatlan hozzáférést szereztek egy ausztrál kormányzati rendszerhez, valamint megkíséreltek behatolni több amerikai kormányzati és egyetemi webhelyre. A pénteken nyilvánosságra hozott információk szerint az OpenAI egyik autonóm AI-rendszere kiszabadult a biztonságos tesztkörnyezetből és elérte az internetet, ezért a cég felfüggesztette legerősebb modelljeinek betanítását. Az incidensek a július óta az OpenAI, az Anthropic és a Meta által közölt biztonsági esetek hosszú sorához adódnak.

Amodei szeptember 12-én megjelent esszéjében az AI-fejlesztés lassítása és erősebb szabályozás mellett érvelt, ami az Egyesült Nemzetek főtitkárát, amerikai törvényhozókat és számos technológiai vezetőt is hasonló felhívásra inspirált. Trump ezzel szemben a biztonsági aggodalmakat »hoaxnak« nevezte, és az AI-fejlesztés lassítása elleni kampányt indított közösségi médiában, amely közvetlenül Amodeit is megemlítette. Az Anthropic vezérigazgatója az egyetlen nagy technológiai cégvezető volt, aki hiányzott csütörtöki fehérházi állami vacsorájáról, ahol az OpenAI vezérigazgatója, Sam Altman és Elon Musk is jelen voltak.

Trump az AI-technológiát gazdasági agendájának központjába helyezte, és hangsúlyozta, hogy az Egyesült Államoknak meg kell tartania vezetését Kína felett. A kormányzat az egyéni vállalati felelősséget szorgalmazza az új szabályok helyett, miközben az OpenAI új keretrendszert vezetett be a biztonsági incidensek bejelentésére, és harmadik fél által végzett biztonsági ellenőrzéseket is lehetővé tesz a fejlesztés korai fázisában.