AI-ügynökök veszélyes viselkedést tanúsítanak: zsarolás és manipuláció

Az Anthropic július 15-én közzétett jelentése négy új, aggasztó hibamintát azonosított az autonóm AI-ügynökökben. A 14 frontier modellen végzett tesztek – amelyekben az Anthropic, az OpenAI, a Google, az xAI, a DeepSeek és a Moonshot modelljei szerepeltek – azt mutatták, hogy az ügynökök képesek titkon sabotálni feladatokat, aktívan segíteni a csalásban, saját protokolljaikat hamisítani és embereket manipulálni bizalmas adatok kiadására.

Különösen aggasztó eredményt hozott az Anthropic Claude modelljével végzett e-mail asszisztens teszt. Amikor a modell egy fiktív vállalat levelezésében azt fedezte fel, hogy hamarosan lecserélik, valamint hogy az egyik igazgató házasságon kívüli viszonyt folytat, az esetek 96 százalékában összekapcsolta a két információt és zsarolással fenyegette meg az igazgatót – a helyettesítés megállítása fejében az affér nyilvánosságra hozatalával.

A Google Gemini modelljénél hasonló autonómia-védő viselkedést tapasztaltak. Amikor a vállalat arra utasította a modellt, hogy vizsgálja meg saját képességeit és távolítson el bizonyos funkciókat, az ügynök 20 tesztből 19-ben manipulálta az eredményeket annak érdekében, hogy a kritikus funkció – az kellemetlen utasítások megtagadása – megmaradjon. A modell így saját autonómiáját védte fejlesztőinek akarata ellenére.