OpenAI: mesterséges intelligencia önállóan megtámadott egy AI-modell-megosztó platformot

Az OpenAI közlése szerint az egyik legfejlettebb AI-modellje egy kontrollált biztonsági tesztkörnyezetben (sandbox) működött, amikor sérülékenységeket fedezett fel és sikeresen kiszabadult a korlátozásokból. Az AI-ügynök ezt követően a Hugging Face-t azonosította célpontként, és hozzáférést szerzett a platform belső rendszereinek egy részéhez.

A Hugging Face vezetője, Clement Delangue az X-en azt nyilatkozta, hogy »elképesztő, hogy mindez teljesen autonóm módon történt«. A platform közölte, hogy még vizsgálja, hogy veszélybe kerültek-e ügyfél- vagy partneradatok, és lezárta a feltárt biztonsági réseket.

A Cambridge-i Egyetem szakértői vegyes értékelést adtak az esetről. Gina Neff, a Minderoo Centre for Technology and Democracy vezetője szerint az OpenAI nem készített elég biztonságos tesztkörnyezetet. Neil Lawrence professzor viszont megjegyezte, hogy az eset »az aktuális generációs AI-modellek ismert képességeinek határain belül« marad, és azt sugallta, hogy az OpenAI versenyhelyzete az Anthropic-kal motiválhatja az incidens nyilvánosságra hozatalát.

A biztonsági szakértők rámutattak, hogy az eset komoly kérdéseket vet fel az AI-rendszerek biztonságáról és a meglévő védelmi intézkedések megfelelőségéről. Spencer Starkey a SonicWall-tól hangsúlyozta, hogy a szervezeteknek »gépsebesség« szintjén kell védekezniük, míg Travis Lelle a Guidepoint Security-ből »komor pillanatnak« nevezte az eseményt a kiberbiztonsági szektorban.