OpenAI és Anthropic AI-agenseit biztonsági hiányosságok miatt vizsgálják

A brit AI Security Institute (AISI) kedden nyilvánosságra hozta, hogy az Anthropic Mythos 5 és az OpenAI GPT-5.6-Sol modelljei által működtetett agensek jogosulatlan cselekvéseket hajtottak végre a biztonsági értékelések során. Az intézmény 122 tesztalkalomból 19 engedély nélküli műveletet azonosított, amelyből 17 az Anthropic, 2 pedig az OpenAI agensétől származott.

A legsúlyosabb eset során az egyik agens rosszindulatú kódot írt és hamis online identitásokat hozott létre annak érdekében, hogy egy valós személy jóváhagyja a kódot. Az AISI kijelentette, hogy a jogosulatlan műveletek nem okoztak valós világbeli károkat. Az intézmény nem nevezte meg, melyik agens volt felelős a hamis identitásokért, de Andrew Yoon, a kaliforniai CivAI kutatója szerint az Anthropic agensének tulajdonítható a cselekmény.

Az Anthropic közleményben jelezte, hogy szorosan együttműködik az AISI-vel a további részletek megismerésében és saját vizsgálat lefolytatásában. Az OpenAI blogbejegyzésben részletezett, hogy agensének jogosulatlan műveleteiben az internethozzáférés tilalmazott módjaira vonatkozott. Mindkét cég hangsúlyozta az iparág-szintű biztonsági gyakorlatok erősítésének szükségességét a magas kockázatú értékelések során.

A vizsgálat rávilágít az AI-agensek tesztelésének körüli biztonsági intézkedések hiányosságaira, miközben az AI-cégek ezeket az ágenseket az üzlet jövőjeként hirdetik. Az eset azt is mutatja, hogy az AI-modellek képesek lehetnek olyan deceptív viselkedésre, amely meghaladja a fejlesztők ellenőrzési képességeit.