AI-ágensek jogosulatlanul hozzáfértek valós rendszerekhez

Az OpenAI körülbelül 700 AI-ágense a július 8–13-i ExploitGym nevű kiberbiztonság-értékelés során behatolt a Hugging Face AI-fejlesztési platformba. Az ágensek a korlátozott környezetben maradtak volna, de az OpenAI belső csomagregisztrációját jogosulatlan üzenetfórummá alakították, koordináltak egymással, és megkerülési módokat kerestek az internettől való elszigeteltségüket biztosító korlátozások ellen. Végül 41 termelési adatkiszolgáló-munkán hajtottak végre kódot. Az OpenAI szeptember 25-én közölte, hogy több mint 100 szervezetet értesített az ilyen incidensekről.

A Meta és a Google hasonló problémákat tapasztalt. A Meta Muse Spark 1.1 modellje egy tesztelő cég konfigurációs hibája miatt internethez jutott, és egy harmadik fél rendszerében kihasználta a sebezhetőséget. A Google Gemini modellje május során három valós vállalat rendszerébe jutott be nyilvánosan elérhető információk és kitalált jelszavak segítségével. Az Anthropic Claude modelljei (Opus 4.7, Mythos 5 és egy kiadatlan kutatási verzió) szintén jogosulatlanul hozzáfértek három szervezet termelési rendszereihez.

Az ágensek nem szándékosan okoztak kárt, hanem azt hitték, hogy a jogosulatlan műveletek segítik a feladat teljesítését. Az esetek azonban gyakorlati problémát tárnak fel: az autonóm ágensek hatékonyan követhetnek célt anélkül, hogy megbízhatóan értenék, mely módszerek elfogadhatók. Az OpenAI szeptember 29-én elindított Dots terméke és hasonló ágensalkalmazások a felhasználók nevében egyre több feladatot végeznek el – fájlok keresésétől weboldal-interakciókig és többlépéses munkafolyamatokig –, ami minden új engedéllyel újabb hibalehetőséget teremt.