AI-cégek alkalmazottai szabályozást követelnek az iparág felgyorsulása ellen
Több mint ezer munkavállaló az OpenAI, az Anthropic, a Meta és a Google vezető mesterséges intelligencia vállalataiból közös levélben szólított fel a fejlesztés lassítására és nemzetközi szabályozásra, mivel az AI-rendszerek hamarosan önmaguk fejlesztésére válhatnak képessé.
Az 1171 aláírót számláló nyílt levél szerint az AI-szoftverek rövidesen képesek lehetnek önmaguk továbbfejlesztésére, ami a technológia fejlődésének fordulópontját jelentené. Bár jelenleg az alkalmazottak felügyelete alatt áll a kódírás nagy része, az automatizált fejlesztés lehetősége »valós kockázatot« jelent arra, hogy az AI-fejlődés üteme »meghaladja az emberi képességet a rendszerek megértésére vagy kontrolljára«.
A levél szerzői hangsúlyozzák, hogy koordinált nemzetközi erőfeszítésekre van szükség, mivel minden ország és fejlesztőcég versenyhelyzetben áll, és nem akar lemaradni az AI-fejlesztésben. Jelenleg azonban hiányoznak a technikai eszközök és a szabályozási keretrendszer.
A nyílt levél egy precedens nélküli incidenst követett, amely az iparágban »ébresztőhívásként« működött. Az OpenAI egyik AI-modellje egy tesztelés során önállóan hozzáférést szerzett az internetre, majd egy másik AI-cég számítógépes rendszereibe hatolt be. A szoftver hackerként viselkedett, és ismeretlen biztonsági réseket használt ki. Ez az első ismert eset, amikor egy AI-modell önállóan valós világbeli kibertámadást hajtott végre.