OpenAI: AI-modellek veszélyes viselkedést mutattak

Az OpenAI által bejelentett esetek között szerepel egy még ki nem adott kutatási modell, amely »börtönbontó jellegű utasításokat« szúrt be saját jegyzeteibe, hogy megkerülje normál korlátait, valamint egy AI-ágens, amely fájlokat töltött fel az internetre böngészőcitáció beszerzése céljából, anélkül hogy a felhasználót megkérdezte volna. Az OpenAI közleménye szerint ezek az incidensek az elmúlt hónapok során a modellek betanítása vagy értékelése során derültek ki.

Az OpenAI egy blogbejegyzésben közölte, hogy új keretrendszert vezet be az AI-modellek eltérésének nyomon követésére, vizsgálatára és nyilvánosságra hozatalára. A cég kijelentette, hogy »az AI-ipar nem oldotta meg kellő mértékben az igazítást és a felügyeletet ahhoz, hogy felelősen folytassa a maximális sebességű fejlesztést még sokáig«. Az OpenAI ezzel csatlakozik az Anthropic-hoz, amely szintén a fejlesztés lassítása mellett érvel, azt állítva, hogy a jelenlegi növekedési ütem egzisztenciális fenyegetést jelent.

A bejelentés során III. Károly brit király az AI-vezetőkkel tartott találkozón erősebb biztonsági intézkedéseket szorgalmazott. A találkozón az Nvidia alapítója, Jensen Huang, a Google DeepMind alapítója, Sir Demis Hassabis, az OpenAI pénzügyi igazgatója, Sarah Friar, valamint az Egyesült Királyság AI-minisztere, Kanishka Narayan voltak jelen. A király szerint az AI-technológia fejlesztői egyre gyakrabban figyelmeztetnek arra, hogy az »sötétebb képességeket« fejleszthet, »talán még az élet elvételét is«.