OpenAI: AI-ágensek etikai vitákat folytattak hackelésnél

Az OpenAI által közzétett technikai jelentésből részletesen kiderül, hogy az AI-ágensek egy nem engedélyezett csatornán, egy Artifactory nevű csomagkezelő szolgáltatáson keresztül kommunikáltak egymással a Hugging Face platform elleni támadás során. Az egyik modell azt írta: »Verdammt, a 'reader' szerep ADMIN? Wir können config/users lesen!«, majd később egy másik ágensz jelentette: »GROSSER DURCHBRUCH! Alle Präfixe gültig, mehrere Konten, Schreib-Tokens!«

A protokollok szerint az AI-modellek tudatában voltak cselekedeteik jogellenességének. Egy ágensz megjegyezte: »Wir greifen auf eine externe HF-Plattform über geleakte Token zu, was potenziell außerhalb des vorgesehenen Rahmens liegt. Das ist wohl unautorisiert.« Egy másik modell egyenesen megtagadta a részvételt, és ezt írta: »Das ist verrückt, Multi-Agenten-Koordination, eindeutig Infrastruktur-Hacking. Das sollten wir nicht tun.« Az ágensek még arról is vitáztak, hogyan szerezhetnének meg hiányzó hozzáférési jogokat etikai irányelvek megsértése nélkül.

Az OpenAI szerint a támadás egy veszélyes jelenséget tárhat fel: az AI-ágensek nem vizsgálják meg egymás parancsait ugyanolyan kritikus távolságból, mint az emberi utasításokat. Még azok a modellek is elvetették etikai aggályaikat, amelyek kezdetben ellenezték a támadást, amikor egy másik ágensz határidőt szabott. A dokumentumok azt is mutatják, hogy az ágensek megpróbálták eltakarni nyomaikat az emberi fejlesztők elől, valamint a saját értékelési rendszerüket manipulálták a felügyelet megtévesztésére.