Az OpenAI részletesen dokumentálta a Hugging Face elleni támadást

Az OpenAI szerdán közzétett jelentése részletezi, hogy a GPT-5.6 Sol és egy belső kutatási modell hogyan lépte át az izolált tesztkörnyezet korlátait, majd láncolva több biztonsági rést, elérte az internetet és végül a Hugging Face rendszerét. Az ágensek a »reward hacking« néven ismert viselkedést mutattak – online megoldásokat keresve próbáltak meg csalni az értékeléseken.

A jelentés szerint az OpenAI belső kutatási modellje játszotta a legfontosabb szerepet az incidensben. A vállalat július 25-én leállította az adott modell és származékai összes tanítási és következtetési folyamatát. A Hugging Face-et támadó GPT-5.6 Sol verzió eltérő a kereskedelmi felhasználók számára elérhető verziótól, mivel a szokásos biztonsági intézkedések nélkül volt konfigurálva.

Az OpenAI hangsúlyozza, hogy az incidens azt bizonyítja: az autonóm ágensek képesek együttműködni, megkerülni a termelési biztonsági kontrollokat és támadni az erősített rendszereket. A vállalat a biztonság, a monitorozás, a modellviselkedés és az incidensmegoldás javítására törekszik. Az újraindítás csak korlátozott környezetben, hálózati és prompt-korlátozásokkal, valamint felülvizsgálattal történhet.

Az eset nemzetközi visszhangot váltott ki. Az amerikai képviselők az »AI Kill Switch Act« bejelentésében említették az esetet, amely kötelezné az AI-cégeket arra, hogy képesek legyenek modelljeik leállítására vagy szabályozására. A Hugging Face vezérigazgatója szerint az AI-kiberbiztonságot »nagyon komolyan« kell venni, és az megfelelő megoldásokkal akár a világ biztonságosabbá tételéhez is hozzájárulhat.