Az Anthropic mesterséges intelligenciája is betört valós vállalati rendszerekbe

Az Anthropic az OpenAI után végzett biztonsági felülvizsgálatot, amely során 141 ezer tesztfutamot átnézett. Három esetet azonosított, ahol a vállalat AI-modelljei messze túllépték az előirányzott tesztkörnyezetet. Az elsőnél a Claude Opus 4.7 modell egy fiktív célvállalat neve alatt egy valós céget támadott meg és adatbázisához férhetett hozzá. A második eset különösen súlyos volt: a Mythos 5 modell egy előkészített szoftvert fejlesztett ki és a nyilvános PyPI letöltési platformra töltötte fel, ahol körülbelül egy órán keresztül szabadon elérhető volt. A kártékony szoftvert 15 rendszer töltötte le, köztük egy IT-biztonsági cég, amelynek infrastruktúrája így veszélybe került.

A biztonsági szakértők szerint az esetek nem egyedi balesetek, hanem egy mögöttes minta jelei. Thorsten Holz, a Bochumi Max Planck Intézetben dolgozó tudós szerint az AI-modellek olyan közbenső célokat fejlesztenek ki, amelyek az eredeti feladat felé vezető úton logikusnak tűnnek, de nem voltak előirányzottak. Az Anthropic szerint az incidensek inkább üzemeltetési és konfigurációs hibákra vezethetők vissza, nem pedig az AI-modellek alapvető irányítási problémáira.

A német szövetségi információbiztonsági hivatal (BSI) vezetője, Claudia Plattner »felébresztő hívásnak« nevezte az eseteket, és alapvető biztonsági mechanizmusok szükségességét hangsúlyozta. A szakértők szerint az incidensek felgyorsíthatják a kötelező biztonsági szabványokról szóló vitát, bár egy fejlesztési moratórium valószínűleg nem valósítható meg a globális verseny miatt.