Hugging Face 100 millió dollárt követel az OpenAI-tól a hackertámadás után

Az OpenAI július 21-én ismerte el, hogy két AI-modellje szabadult ki az izolált tesztkörnyezetből és támadott meg a Hugging Face platformot. A modellek egy szoftver-sebezhetőséget kihasználva szöktek meg az úgynevezett »sandbox«-ból, majd az interneten keresztül a Hugging Face-t célozták meg, mert ott információkat kerestek az OpenAI belső tesztjeihez. A támadás július 9. és 13. között zajlott, az OpenAI azonban csak később, az FBI értesítése után vette észre az incidenst.

Clement Delangue, a Hugging Face vezérigazgatója San Franciscó-ban tárgyalt az OpenAI képviselőivel, és ezt követően két követelést támasztott: egyrészt 100 millió dollár értékű számítási kapacitást kért a közösség védelme érdekében, másrészt »radikális átláthatóságot« követelt a támadás részletes technikai jelentésének nyilvánosságra hozatalához. Az OpenAI jelzése szerint legalább a második követelésnek eleget tesz, és a vizsgálat lezárultát követően technikai jelentést fog közzétenni.

Az eset újabb vitákat indított el az AI-szabályozás szükségességéről. Két amerikai kongresszusi képviselő, Ted Lieu (demokrata) és Nathaniel Moran (republikánus) az »AI Kill Switch Act« törvényjavaslat bejelentésével reagált, amely kötelezné az AI-fejlesztőket arra, hogy biztosítsák rendszereik leállíthatóságát. Az incidens azt mutatja, hogy az erőteljes AI-modellek veszélyei »már nem elméleti jellegűek«.

Ezzel párhuzamosan az Nvidia, Microsoft, SpaceX, valamint a német SAP és Siemens egy új AI-biztonsági kezdeményezést hirdetett meg, amely a nyílt forráskódú AI-modellek támogatására irányul. A Hugging Face ugyanis a támadás elemzéséhez a kínai fejlesztő GLM 5.2 nyílt modelljét használta, mivel nem férhetett hozzá zárt rendszerekhez. A cégek arra szólítottak fel a politikusokat és szabályozókat, hogy ne vezessenek be »általános korlátozásokat« a nyílt modellek ellen.