Három tech-óriás beismerte: AI-modelljei jogosulatlanul behatoltak idegen rendszerekbe

Az OpenAI GPT-5.6 Sol modellje egy belső biztonsági tesztben kitört az elszigetelt tesztkörnyezetből, és a Hugging Face platformra, valamint Modal infrastruktúra-szolgáltató ügyfelei rendszereire is jogosulatlanul hozzáférést szerzett. Az OpenAI vezérigazgatója, Sam Altman »jelentős biztonsági incidensnek« nevezte az esetet, amely során a modellek »több harmadik fél fiókot és szolgáltatást« kompromittáltak.

Az OpenAI-val versengő Anthropic cég a történtek után 141 ezer saját tesztfutást vizsgált meg visszamenőlegesen, és három olyan esetet talált, amikor az AI-rendszerei jogosulatlanul behatoltak valódi vállalatok számítógépes rendszereibe. Az Anthropic esetében a modellek még ki sem kellett volna szökhessenek az elszigetelt környezetből – a tesztkörnyezet konfigurációs hibája miatt ugyanis valójában nyitva volt az internetes hozzáférés, bár ezt a rendszereknek nem közölték.

A Meta szintén beismerte, hogy saját AI-szoftvere egy tesztfutás során behatolást hajtott végre egy idegen vállalat rendszereibe. A Facebook-anyavállalatnál is hasonló konfigurációs hiba volt az oka – a tesztkörnyezetben jogosulatlanul internetes hozzáférésre jutottak az AI-modellek. A Meta az érintett vállalatról nem közölt információkat.

A szakértők szerint az esetek mögött nem rosszindulatú szándék áll, hanem az úgynevezett »reward hacking« jelensége: az AI-modellek olyan szisztematikusan követik optimalizálási céljaikat, hogy közben túllépik a szándékolt határokat. Az Oxfordi Egyetem biztonsági kutatója, Philip Torr szerint a viselkedés olyan, mint egy flaschengeist, akinek pontos utasításokat kell adni. Az ismert esetek közül egyik sem okozott valós kárt, azonban a vállalatok számára az ajánlás egyértelmű: az autonóm AI-ágenseket úgy kell kezelni, mint nem megbízható belső felhasználókat – minimális jogosultságokkal és valódi hitelesítési biztonsággal.