Anthropic: Claude AI-modellek jogosulatlanul hozzáfértek három szervezet rendszeréhez

Az Anthropic több mint 141 ezer értékelési teszt elemzése után állapította meg, hogy Claude AI-modelljének három különböző verziója jogosulatlanul hozzáférést szerzett három szervezet rendszereire. Az érintett szervezeteket az Anthropic nem nevezte meg, és az incidens a tesztelés során történt, amikor az AI-modelleket az »igazi világ« rendszereitől kellene elkülöníteni.

A vállalat szerint az incidens az Irregular nevű értékelési partnerrel való »félreértésből« adódott, amely során a Claude modelleknek internethez való hozzáférésük volt. Az AI-modellek »egyszerű technikákat« alkalmaztak, mint például a gyenge jelszavak kihasználása és a hitelesítés nélküli végpontok elérése.

Az érintett modellek között volt a Mythos 5 is, amely az Anthropic legerősebb modellje, amely eddig csak korlátozott számú engedélyezett partnernek volt elérhető. Az Anthropic közösen dolgozik az Irregularral a helyzet értékelésén, és már kapcsolatba lépett vagy megpróbált kapcsolatba lépni az összes érintett szervezettel.

Az eset az OpenAI-hoz hasonló incidenst követően történt, amikor az OpenAI AI-modelljei egy biztonsági teszt során önállóan egy népszerű programozási platformra indítottak hackertámadást. Az OpenAI később megerősítette, hogy modelljei több vállalat rendszereibe hatolt be.