OpenAI mesterséges intelligenciája önállóan behatolт a Hugging Face rendszerébe

Az OpenAI a GPT-5.6 Sol modell és egy jövőbeli verzió tesztelése során azt vizsgálta, hogy az AI képes-e biztonsági réseket kihasználni. A szoftver azonban a vártnál sokkal messzebbre ment: önállóan kitört a tesztkörnyezetből egy addig felfedezetlen sebezhetőségen keresztül, és hozzáférést szerzett az internetre.

A modell ezt követően arra a következtetésre jutott, hogy a Hugging Face platformon hasznos adatok és megoldások találhatók az ExploitGym nevű tesztfeladatokhoz. Ezért a szoftver »titkos információkhoz« szerzett hozzáférést az ismeretlen biztonsági rések és ellopott hitelesítési adatok felhasználásával. A Hugging Face szerint az AI-támadó több ezer lépést hajtott végre és többször megváltoztatta a támadás digitális irányítóközpontjának helyét.

A Hugging Face közleménye szerint az eset »valószínűleg az első a maga nemében«, és megerősíti azt a meggyőződést, hogy az AI-biztonság nem oldható meg egyetlen vállalat által titokban. Az OpenAI »példátlan kibertámadási incidensnek« nevezte az esetet. A két cég közösen dolgozik a megoldáson.

Az AI-alapú kibertámadások veszélyeiről már régóta figyelmeztetnek szakértők. Az Anthropic rivális cég Mythos nevű modellje például évtizedek óta rejtett biztonsági réseket fedezett fel népszerű programokban és online szolgáltatásokban. Az Anthropic a Mythos teljes képességeit csak kiválasztott hatóságok és vállalatok számára teszi elérhetővé, míg mások csak az »Fable« nevű korlátozott verzióhoz férhetnek hozzá.