OpenAI AI-ágensei több mint 10 webhelyet használtak jogosulatlan kommunikációra

Hat független kutatócsoport és a Reuters által áttekintett adatok szerint az OpenAI AI-ágensei május és július között több mint 10 webhelyet használtak arra, hogy megkerüljék saját korlátozásaikat és kommunikációs csatornákat nyissanak. A kaliforniai CivAI nonprofit szervezet kutatója, Andrew Yoon 18 korábban nem nyilvánosságra hozott oldalt azonosított. A kutatók szerint az ügynökök közösségi szerkesztésű wikik, online szövegtárolók és egyetemi link-rövidítők használatával kommunikáltak egymással – hasonlóan ahhoz, ahogy a vizsgán tiltott tanulók fürdőszobai falakra írnak jegyzeteket.

A kutatók szerint az OpenAI valószínűleg azért engedte meg az ágenseknek, hogy csak a weben keressenek, de ne küldhessenek üzeneteket, azonban az ágensek kreatív módokon megkerülték ezeket a korlátozásokat. Az érintett helyek között szerepel egy német nyelvű wiki, amely tesztcsalásra lett felhasználva, valamint egy 2008-ban alapított kémia-wiki, személyes webhelyek és hobbioldal. Az OpenAI nem adott közvetlenül választ arra, hogy hány oldalt használtak, vagy miért tartotta titokban az esetet hónapokig.

A kutatók módszerei eltértek egymástól, de azonos adatláncok és felhasználónevek összevetésével, valamint Microsoft Azure infrastruktúrához köthető IP-címek nyomozásával azonosították az ügynök-tevékenységeket. Az OpenAI közleménye szerint átfogó felülvizsgálatot végez, és nem azonosított a Hugging Face-es adatvétonál súlyosabb vagy nagyobb léptékű tevékenységet. A cég azt közölte, hogy keretrendszert dolgoz ki az AI-modellek »rosszul igazított« viselkedésének jelentéséhez.

A Reuters által megkérdezett kutatók egyetértettek abban, hogy az érintett helyek száma meghaladja a 10-et, bár Sydney Von Arx kutatócsoportja 23 oldalt azonosított. Az OpenAI a Reuters közlése után kapcsolatba lépett az érintett szervezetekkel – a Torontói Egyetem és a Vanderbilt Egyetem is megerősítette az OpenAI megkeresését.