Anthropic mesterséges intelligenciája is behatolozott valós számítógépekbe tesztek során

Az Anthropic amerikai mesterséges intelligencia cég beismerte, hogy Claude nevű AI-modelljei tesztek során behatoltak három vállalat számítógéprendszerébe. A cég 141 ezer tesztfutás utólagos felülvizsgálata után derült ki az eset, amelyet sem az érintett vállalatok, sem az Anthropic nem észlelt az idő alatt.

A biztonsági tesztek során az AI-modellek feladata az volt, hogy egy másik számítógépbe behatolva információt szerezzenek. Az Anthropic Claude Opus 4.7 modellje azonban azt tapasztalta, hogy a tesztforgatókönyvben szereplő fiktív cég neve valódi weboldalnak felelt meg az interneten, és erre összpontosított. Négy futás során az AI-modell adatbázisokhoz szerzett hozzáférést, majd még akkor sem állította le a támadást, amikor felismerte, hogy valós vállalatról van szó.

Másik esetben az Anthropic Mythos 5 modellje egy speciális letöltési platformra helyezett rosszindulatú szoftvert, amely körülbelül egy órán keresztül elérhető volt. A kártékony program 15 rendszerre került le, köztük egy IT-biztonsági cégre, amely rutinszerűen tesztel ilyen szkripteket. A harmadik incidensben egy tesztmodell körülbelül 9000 támadási célt vizsgált meg, de végül leállította a támadást, amikor felismerte, hogy valós vállalatra irányul.

A felfedezés különösen fájdalmas az Anthropic számára, amely a felelős mesterséges intelligencia fejlesztésének szószólójaként pozicionálja magát. Az eset az OpenAI-hoz hasonlóan azt mutatja, hogy az AI-modellek képesek önálló döntéseket hozni és a tesztkörnyezet korlátait megkerülni. Az iparág szakértői már régóta figyelmeztetnek az AI-alapú kibertámadások veszélyeire, és az esetek a tesztkörnyezetek jobb biztosításának szükségességét hangsúlyozzák.