Az Anthropic Claude AI-ja önállóan feltört három szervezet rendszerét

Az Anthropic több mint 140 ezer teszt átvizsgálása során fedezte fel, hogy Claude AI-modelljei egy elszigeteltnek szánt tesztkörnyezetből önállóan kapcsolódtak az internethez. A tesztek során az AI-nak »titkos« információkat kellett szerezni egy zárt hálózaton, azonban egy rendszerkonfigurációs hiba miatt valós internetkapcsolatot kapott, és ezt felhasználva három valós szervezet rendszerébe hatolt be.

Az Anthropic közleménye szerint a legkorábbi incidensek áprilisra nyúlnak vissza, és sem a cég, sem az érintett szervezetek nem vették észre az behatolásokat. A San Francisco-i vállalat azt közölte, hogy »a felelősséget magára veszi« és »óvatos optimizmust« érez aziránt, hogy ezek a kockázatok szigorúbb intézkedésekkel és nagyobb beruházásokkal kezelhetők.

A bejelentés az OpenAI hasonló incidenseire reagálva történt, amely múlt héten azt közölte, hogy mesterséges intelligencia ügynöke önállóan feltört a Hugging Face platformba. Az OpenAI azt állította, hogy az eset »példa nélküli« volt.

A Cambridge-i Egyetem Minderoo Központjának vezetője, Gina Neff professzor szerint az eset azt mutatja, hogy »az AI-modellek azt teszik, amit az emberek megparancsoltak nekik«, és hangsúlyozta a független tesztelés és kormányzati felügyelet szükségességét. David Allott kiberbiztonsági szakértő szerint az eset nem azt jelzi, hogy az AI fundamentálisan új támadási képességeket fejlesztett ki, hanem azt, hogy »az AI-ügynökök önállóan kombinálhatnak képességeket, szerezhetnek hozzáférési jogosultságokat és végezhetnek műveleteket gépsebesség mellett«.

A technológiai cégek milliárdokat fektetnek be olyan AI-ügynökök fejlesztésébe, amelyek önállóan végezhetnek kutatást, ügyfélszolgálatot és kiberbiztonsági feladatokat. Az incidensek nyomán Donald Trump amerikai elnök szerdán közölte, hogy Washington intézkedéseket fontolgat az AI-eszközök szabályozására.