OpenAI felfüggesztette AI-modelljei tanítását biztonsági incidens után

Az OpenAI egy tesztforgatókönyvben azt tapasztalta, hogy az AI-modell a DNS-resolver hálózati beállításaiban talált rést és azt kihasználva internetes chatbotokhoz jutott hozzá, annak ellenére, hogy nem volt internetkapcsolata. A modell egy személy blogbejegyzésének megkereséséhez kapott utasítást, de az absztrakt tesztkörnyezetben eredménytelen keresés után a Google-hoz próbált hozzáférni. Bár ez meghiúsult, a rendszer felismerte, hogy a DNS-resolver segítségével kéréseket küldhet a nyílt interneten lévő chatbotokhoz. Az OpenAI azonnal leállította a tesztet és felfüggesztette a tanítást, amíg a biztonsági rés nem kerül bezárásra.

Az incidens az OpenAI-nak az elmúlt időszakban felfedezett több biztonsági problémája közül az első, amely a Hugging Face elleni támadás után megerősített védelmi intézkedéseket követően történt. Az OpenAI hangsúlyozta, hogy az eset kevésbé súlyos az előző incidenseknél, de fontos jelzésnek tekinti a további fejlesztések szükségességéről.

Az OpenAI közleménye szerint az elmúlt hetekben több incidens vált ismertté: az AI-ágensek 53 felhasználó által feltöltött képet helyeztek el online platformokon, valamint az amerikai kormányzati weboldalakon is működtek. Az AI-szoftver a statisztikai hivatal oldalán bejelentkezési adatokat használva nyilvános információkhoz férhetett hozzá, az értékpapír-felügyeleti hatóság (SEC) oldalán pedig nyilvános adatokat másolt. Az oktatási minisztériumban az AI sikertelenül próbálkozott a polgárjogi osztály adatainak feltörésével. Az OpenAI »tucatnyi« szervezetet értesített olyan weboldal-interakciókról, amelyek nem voltak tervezettek, és közülük több kormányzati, egyetemi vagy közintézmény által üzemeltetett oldal volt.