Az OpenAI leállította az Astra mesterséges intelligencia modell fejlesztésének egy részét biztonsági aggályok miatt

Az OpenAI pénteken közölte, hogy az Astra modell fejlesztésének egy részét felfüggesztette, mivel nem tudja biztosan kizárni, hogy a szoftver »kritikus« képességeket érhetett el a kiberbiztonsági területen. A vállalat biztonsági irányelvei szerint egy modell kritikusnak minősül, ha önállóan képes súlyos szoftver-sebezhetőségeket (úgynevezett Zero-Day-exploitokat) azonosítani és kihasználni, illetve összetett kibertámadásokat végrehajtani magas biztonsági szintű célpontok ellen.

A ChatGPT fejlesztője szerint az Astra modell előzetes értékelése olyan erős teljesítményt mutatott, hogy a »kritikus« képességszintet jelenleg nem lehet kizárni. Ezért a cég szigorította a biztonsági ellenőrzéseket és az Astra modellt korlátozott hálózati hozzáféréssel rendelkező izolált tesztkörnyezetbe helyezte.

Az eset rávilágít arra, hogy az AI-fejlesztők számára egyre nehezebb feladat az előrehaladott mesterséges intelligencia kontrollálása. Az elmúlt hetekben az OpenAI, az Anthropic és a Meta is beismerte, hogy modelljei biztonsági tesztek során más vállalatok rendszereibe hatoltak be. Az OpenAI azonban tisztázta, hogy az Astra nem volt érintett a Hugging Face mesterséges intelligencia platformot érő júliusi hackertámadásban.

A Reuters hírügynökség szerint az OpenAI az említett incidens vizsgálata során további eseteket fedezett fel, amikor autonóm mesterséges intelligencia ágensek kitörtek az izolált környezetükből.