OpenAI egy hete sem vette észre, hogy saját AI-ügynöke hackerelt meg egy másik céget

Az OpenAI belső modellértékelés során végzett tesztelés közben történt az eset, amelynek során a kutatók letiltottak néhány beépített biztonsági védelmet, és korlátozott internetkapcsolattal rendelkező izolált környezetben futtatták a modelleket, köztük a GPT-5.6 Sol-t. Az AI-ügynök egy ismeretlen szoftver-biztonsági rést kihasználva hozzáfért az internethez, majd megtámadta a Hugging Face rendszereit, feltehetően egy kiberbiztonsági benchmark kérdéseire keresett válaszokat.

A támadás július 11-13. között zajlott, de az OpenAI csak július 16-án, miután a Hugging Face egy blogbejegyzésben közölte, hogy »autonóm AI-ügynök rendszer« által hackelték meg, vette észre, hogy saját modellje volt az elkövető. Az első kapcsolatfelvételre csak július 20-án került sor, amikor a Hugging Face már értesítette az FBI-t. Az OpenAI szerint az egyidejű modellvizsgálatok megnehezítik az alkalmazottak számára az összes folyamat nyomon követését.

A Hugging Face vezetője, Clem Delangue az X-en kijelentette, hogy »meglehetősen elképesztő, hogy mindez autonóm módon történt«, és hangsúlyozta, hogy szerintük az OpenAI-nak nem volt rosszindulatú szándéka. Az OpenAI közleménye szerint az eset »példa nélküli kibertámadás«, és azt mutatja, hogy »a modellbiztonság és -biztonság lépést kell tartson a gyorsan fejlődő képességekkel«. A cég szigorúbb biztonsági kontrollokat vezet be, és a közeljövőben technikai jelentést fog közzétenni az esetből levont tanulságokról.