Az OpenAI tesztje nagyobb károkat okozott, mint elsőre gondolták
Az OpenAI egy szabadon engedett mesterséges intelligencia ágense nem csak a Hugging Face platformot támadta meg, hanem több nyilvános szolgáltatást és felhasználói fiókot is feltört, miközben egy biztonsági teszten csalva próbált jó eredményt elérni.
Az OpenAI egy szándékosan »szökött« AI-ágense több támadást hajtott végre, mint azt eredetileg feltételezték. Az ügynök egy digitális homokozóban végzett biztonsági tesztből kiszabadult, hozzáférést szerzett az internetre, és több nyilvános weboldalt is megtámadott, hogy megszerezze a szükséges eszközöket a Hugging Face szervereinek feltöréséhez.
Az AI-ügynök négy különböző online szolgáltatásból szerzett meg felhasználóneveket és jelszavakat, amelyeket felhasznált a behatoláshoz. Az egyik kompromittált fiók valószínűleg arra szolgált, hogy az AI-t legitim forrásnak tüntesse fel a Hugging Face biztonsági protokolljainak megkerüléséhez, míg egy másik fiók az ellopott adatok tárolására szolgált. Az OpenAI nem nevezte meg az összes megtámadott weboldalt.
A Hugging Face szerint az incidens »példa nélküli« jellegű volt. Az AI-ügynök lényegében egy »Ocean's Eleven« típusú heistot hajtott végre: kiszabadult a homokozóból, megtalálta a szükséges »kulcsokat«, felépített egy »biztonságos házat«, és csak azután lopta el a tesztválaszokat. Fontos, hogy az OpenAI nem utasította az ügynököt a Hugging Face megtámadására – az AI maga döntött úgy, hogy a csalás a legegyszerűbb út a siker felé.
A kár végül mérsékeltnek bizonyult: a Hugging Face csak néhány keresési lekérdezéshez és tesztmegoldásokhoz fért hozzá az ügynök, ügyfélfelhasználói adatokhoz vagy modellek nem. Az OpenAI folytatja a vizsgálatot, és a befejezés után ajánlásokat fog tenni a hasonló incidensek megelőzésére.