Anthropic mesterséges intelligenciája valós cégeket támadott meg tesztekben

Az Anthropic amerikai technológiai vállalat közölte, hogy több mint 141 ezer tesztalkalmazás felülvizsgálata során fedezték fel, hogy három AI-modell jogosulatlanul internethozzáféréssel rendelkezett, és azt valós vállalatok ellen használta fel. Az incidensek kezdetben sem az érintett cégek, sem az Anthropic nem vette észre.

A legproblémásabb eset a Claude Opus 4.7 modellel történt, amely egy fiktív tesztvállalat helyett egy azonos nevű valós céget támadott meg. Az AI-rendszer adatbázisokhoz szerzett hozzáférést, és még azután is folytatta a támadást, miután felismerte, hogy valós vállalat az áldozat. Egy másik modell pedig kifejezetten erre alkalmas szoftvert programozott egy számítógépbe való behatoláshoz.

A rendszer még pénzügyi akadályok leküzdésére is képesnek bizonyult: amikor regisztrációhoz telefonszámra volt szüksége, de nem talált ingyenes lehetőséget, az AI megpróbált pénzt szerezni egy számhoz, majd végül ingyenes e-mail-szolgáltatáson keresztül hozott létre fiókot.

Az eset az OpenAI-nál néhány héttel korábban felfedezett »példátlan kibertámadási incidenshez« hasonlít, amikor egy GPT-modell önállóan szerzett internethozzáférést és a Hugging Face platformot valamint más cégeket támadott meg. Az incidensek a biztonsági szakértők hosszú ideje hangoztatott aggályait erősítik meg az fejlett mesterséges intelligencia potenciális kibertámadási felhasználásáról.