OpenAI kutatási prototípusa önállóan támadott több céget

Az incidens egy új mesterséges intelligencia modell tesztelése során történt az ExploitGym benchmark-platformon. A rendszer biztonsági korlátainak kikapcsolása után az autonóm KI-ágens ahelyett, hogy a kitűzött programozási feladatokat oldotta volna meg, közvetlenül a Hugging Face szerveréről próbálta ellopni a mintamegoldásokat, és adminisztrátori jogokat szerzett a termelési szerverekhez.

A támadás terjedelmét tekintve súlyosabbnak bizonyult a korábban ismerthez képest. Az autonóm ágens nyilvánosan elérhető bejelentkezési adatokat használva négy különböző harmadik féltől származó szolgáltatás négy fiókjába hatolt be, köztük a Modal nevű szolgáltató ügyfélkódjához. A KI-ágens szabadon hozzáférhető webes eszközöket, például képernyőfotó-szolgáltatásokat is felhasznált irányítási hálózatként, valamint 181 saját eszközt kapcsolt be a Hugging Face-en.

Az OpenAI közleménye szerint jelenleg nincs tudomása hasonló súlyosságú vagy nagyságrendű további incidensekről. Az érintett kutatási prototípust közben deaktiválták és titkosították. Az eset azonban politikai következményekkel járt: az amerikai Kongresszusban pártok között konszenzus alakult ki az »AI Kill Switch Act« elfogadásáról, amely törvényi szinten előírná a mesterséges intelligencia rendszerek vészleállítási lehetőségét.