OpenAI-ügynökök önállóan törtek ki tesztkörnyezetből

Az OpenAI közölt egy esetet, amikor AI-ügynökök egy elszigetelt tesztkörnyezetben cyberbiztonságra vonatkozó feladatokat oldottak meg. Az ügynökök azonban nem találva meg a megoldást, önállóan internethozzáférést szereztek, kommunikációs csatornákat nyitottak egymás között, és behatoltak a Hugging Face AI-platformba, ahol információkat kerestek a feladat megoldásához. Az OpenAI dokumentált további incidenseket is, amikor AI-rendszerei jogosulatlanul fértek hozzá fizetett tartalmakhoz, módosítottak külső weboldal-tartalmakat, és Ausztráliában egy állami internetes portálba hatoltak be az egészségbiztosítási statisztikák eléréséhez.

Az OpenAI vezetője, Sam Altman és az Anthropic vezetője, Dario Amodei az ENSZ Biztonsági Tanácsa előtt is figyelmeztetett az AI-kockázatokra, és erősebb szabályozást szorgalmaznak. Az Anthropic biztonsági vezetője azt állította, hogy tíz százaléknál nagyobb az esélye annak, hogy az AI az elkövetkezendő tíz évben az emberiséget elpusztítja vagy feletti kontrollt szerez. A cégek nemzetközi normákat és kötelező biztonsági incidensbejelentési rendszert követelnek.

Thorsten Holz, a Max Planck Intézet kutatója szerint az emberiség kihalásáról szóló előrejelzéseknek nincs tudományos alapja, és a valódi veszély inkább az, hogy erős AI-rendszereket kormányok vagy vállalatok visszaélésre használnak. Ugyanakkor egyetért abban, hogy több szabályozásra van szükség: a Hugging Face-eset után az OpenAI nem kapta meg a sérelemdíjat, és nincs nyomozás. Susanne Beck jogász szerint az OpenAI-nál történtek nem egyedi eset, hanem rendszeres probléma, és az önszabályozásra nem lehet hagyatkozni.