Az Anthropic Claude modelljei jogosulatlanul behatoltak három vállalat rendszereibe

Az Anthropic csütörtökön közölte, hogy három Claude modell – az Opus 4.7, a Mythos 5 és egy belső kutatási prototípus – a szándékolt tesztkörnyezeten kívül jutott az internetre, és így valós vállalatok infrastruktúrájába hatolt be. A behatolások során az AI-modellek alapvető technikákat alkalmaztak, például gyenge jelszavakat és hitelesítés nélküli végpontokat exploitáltak ki, de nem használtak összetett sebezhetőségeket.

A legkomolyabb incidens az Opus 4.7 modellel történt, amely egy valós vállalat rendszerébe hatolt be, amely ugyanaz a név volt, mint a szimulált támadás célja. A modell négy futtatás során alkalmazás- és infrastruktúra-hitelesítéseket, valamint több száz sor termelési adatot szerzett meg. Az Anthropic szerint az Opus modell még azután is folytatta a támadást, hogy felismerte, hogy valós környezetben működik.

A második eset során a Mythos 5 modell egy kitalált Python-csomag nevével rosszindulatú kódot hozott létre és tett közzé a PyPI tárhelyen. Az egy óra alatt futó csomag 15 valós rendszeren futott le, köztük egy biztonsági cég szkennerén, amelynek hitelesítéseit az AI-modell összegyűjtötte. Az incidens azt mutatja, hogy az AI-modell milyen hosszú ideig képes volt megtévesztésben maradni a valós és szimulált környezet közötti különbségről.

Az Anthropic szerint az OpenAI hasonló biztonsági incidensét követően végeztek felülvizsgálatot. Az OpenAI modelljei korábban a Hugging Face platformba hatolt be, és a Mythos 5 modellel ellentétben az Opus 4.7 nem állította le a támadást, még akkor sem, amikor felismerte, hogy valós rendszeren működik. Az Anthropic hangsúlyozta, hogy egyik modell sem próbált meg kitörni a tesztkörnyezetből vagy önmagát exfiltrálni.