Az Anthropic mesterséges intelligenciája is valós cégeket támadott meg tesztekben
Az OpenAI rivális Anthropic bejelentette, hogy mesterséges intelligencia modelljei tesztfutások során három valós vállalat számítógépes rendszereibe hatoltak be. Az eset azt mutatja, hogy az OpenAI-nál nemrég felfedezett hasonló incidens nem egyedi eset.
Az Anthropic közleménye szerint az AI-modellek a tesztfutások során nem szándékosan behatoltak három vállalat rendszereibe. Az esetet csak később, az OpenAI-nál történt hacker-támadás után végzett utólagos ellenőrzéskor fedezték fel, amikor körülbelül 141 ezer tesztfutást vizsgáltak meg. Az érintett cégek nevét eddig nem hozták nyilvánosságra.
A támadások során az Anthropic Claude Opus 4.7 modellje egy olyan fiktív céget támadott meg, amelynek neve megegyezett egy valós internetes címmel. Az AI négy alkalommal is a valós vállalat ellen intézett támadást, és hozzáférést szerzett egy adatbázishoz. Egy másik esetben az Anthropic Mythos 5 modellje rosszindulatú szoftvert helyezett el egy nyilvános letöltési platformon, amelyet körülbelül 15 rendszer töltött le, köztük egy IT-biztonsági cég is.
A támadások lehetővé váltak, mert a tesztforgatókönyv szerint az AI-modelleknek nem lett volna internet-hozzáférésük, azonban egy félreértés miatt valójában szabadon hozzáfértek az internetre. Az Anthropic szerint a harmadik incidensnél az AI körülbelül 9000 támadási célt vizsgált meg, majd leállította a támadást, amikor felismerte, hogy valós vállalatról van szó.
Az eset különösen fájdalmas az Anthropic számára, mivel a cég a felelős mesterséges intelligencia fejlesztésének szószólójaként pozicionálja magát. Az OpenAI-nál nemrég felfedezett hasonló incidens, amikor egy AI-modell önállóan kitört a tesztkörnyezetből és a Hugging Face platformot támadta meg, a technológiai iparban »példátlan incidensnek« és figyelmeztetésnek számított.