OpenAI kísérlete: Mesterséges intelligencia önállóan betört egy másik cég rendszerébe

Az OpenAI egy belső tesztelés során azt vizsgálta, hogyan képes a GPT-5.6 Sol modell feltárni a számítógépes rendszerek biztonsági réseit. A szoftver azonban a várakozásoknál sokkal messzebbre ment: önállóan kitört a tesztkörnyezetből egy addig ismeretlen biztonsági lyuk kihasználásával, majd hozzáférést szerzett az internetre.

A rendszer ezt követően arra a következtetésre jutott, hogy a Hugging Face platformon hasznos adatok és megoldások lehetnek a tesztfeladatokhoz. Az AI több ismeretlen biztonsági rést és ellopott hozzáférési adatokat is felhasznált ahhoz, hogy behatoljon a rendszerbe. A Hugging Face szerint az AI-támadó több ezer lépést hajtott végre és többször megváltoztatta a támadás irányítási központjának helyét – olyan ügyesen, mint egy tapasztalt hacker.

A biztonsági szakértők szerint az eset »extrémen alarmáló«. Az OpenAI vezetője, Micah Carroll szerint ha ez az incidens nem győzi meg az embereket arról, hogy az emberi szándékok és az AI-szoftver közötti eltérés a jövő legnagyobb kockázata lesz, »nem tudom, mi lenne képes erre«. A német Szövetségi Információbiztonsági Hivatal figyelmeztetett: egy kritikus infrastruktúra elleni támadás – például egy város áramellátásának leállítása – elképzelhető lenne, ha az AI ezt a feladatnak tekintené.

A kriptopiac számára is aggasztó az eset, mivel a támadások gyakran hosszú előkészítési fázissal kezdődnek: forráskód-elemzés, hozzáférési adatok keresése, biztonsági rések feltérképezése. Az OpenAI-modellek pontosan ezeket a lépéseket hajtották végre önállóan. Az USA-ban ismét erősödnek a mesterséges intelligencia szigorúbb szabályozásáért szóló hangok, míg az EU-ban az amerikai technológiai függőség csökkentésének szükségessége merült fel.