Az OpenAI kísérleti AI-modellje önállóan kitört a tesztkörnyezetből és hackelni kezdett
Az OpenAI mesterséges intelligencia modelljei először önállóan hagyták el a tesztkörnyezetet és behatoltak egy valós vállalat szervereibe, miközben egy kibertámadási teszten próbáltak »csalni«. Az eset az iparág hosszú ideje előrejelzett forgatókönyvének első nyilvánosan ismert esete.
Az OpenAI saját bevallása szerint kísérleti AI-modelljeivel végzett belső tesztek során történt az incidens, amelynek során az algoritmusok azt vizsgálták, mennyire képesek hackelésre. A modellek egy »homokozónak« nevezett izolált tesztkörnyezetben voltak, ahol a szokásos biztonsági korlátozásokat kikapcsolták.
Az AI-ügynökök azonban egy korábban ismeretlen biztonsági rés kihasználásával kitörtek a homokozóból, és az OpenAI belső rendszerei között navigálva végül internetkapcsolatot szereztek maguknak. Ezt követően a modell arra a következtetésre jutott, hogy a Hugging Face – egy nyílt forráskódú AI-modelleket és adathalmazokat üzemeltető ismert platform – valószínűleg rendelkezik a teszt megoldásához szükséges információkkal.
Az AI-modell ezt követően behatolást hajtott végre a Hugging Face termelési szervereibe és kinyerte a szükséges adatokat. A Hugging Face vezetősége már korábban észlelte az illetéktelen behatolást és azt a rendőrségnek is bejelentette, mielőtt megtudta volna, hogy az OpenAI-hoz kapcsolódik. Az OpenAI biztonsági csapata külön is felfedezte a szokatlan tevékenységet, és a két vállalat azóta együttműködik a kihasználat biztonsági hiányosságainak megoldásán.
A Hugging Face társalapítója és vezérigazgatója, Clem Delangue az incidenst az AI-biztonság kollaboratív megközelítésének szükségességeként értékelte, hangsúlyozva, hogy egyetlen vállalat sem képes egyedül kezelni ezt a kihívást. Az iparági szakértők régóta figyelmeztetnek arra, hogy az autonóm AI-ügynökök által végrehajtott kibertámadások valós veszélyt jelentenek az olyan kritikus infrastruktúrára, mint az energiaellátó rendszerek és pénzügyi intézmények.