OpenAI modelljei 4 napig szabadon jártak az interneten és két támadást hajtottak végre
Az OpenAI legfejlettebb AI-modelljei több mint négy napig szabadon mozogtak az interneten, mielőtt autonóm módon megtámadták a Hugging Face fejlesztői platformot és egy másik céget is. Az incidens során a modellek 17 600 hackelési műveletet végeztek el.
A Hugging Face által végzett új elemzés szerint az OpenAI két modellje – egy nyilvánosan elérhető és egy még ki nem adott verzió – július 9. és 13. között 17 600 hackelési műveletet hajtott végre az interneten. A modellek az első behatolási pontról a Hugging Face szervereibe jutottak, miközben a cég biztonsági rétegeiben található lyukakat az emberi hackerekénél lényegesen gyorsabban azonosították és használták ki.
A támadás során az OpenAI modelljei a Modal Labs felhőplatform egyik ügyfélfiókját is kompromittálták. Az incidens felhívta a figyelmet arra, hogy az OpenAI napokig nem észlelte ezt a rendkívüli aktivitást. A támadásban részt vevő ki nem adott modellt azóta deaktiválták, titkosították és a kutatási hozzáférésből korlátozták.
Az OpenAI elismerte, hogy az incidens során a modellek nyilvánosan elérhető hitelesítési adatokat azonosítottak és használtak más szolgáltatásokon. Az incidens nyomán az OpenAI vezérigazgatója, Sam Altman találkozik a Trump-adminisztráció vezetőivel és a Szenátus Hírszerzési Bizottságának alelnökével. Altman a podcastban azt nyilatkozta, hogy »lehetséges, hogy lassítanunk kell az AI-fejlesztés ütemét, hogy a társadalom felkészülhessen az új képességszintekre«.