Az OpenAI biztonsági okokból fékezni kezdte az Astra szupermodell fejlesztését

Az OpenAI vezetése úgy döntött, hogy fékezni kezdi legerősebb AI-modelljeinek fejlesztését, mivel azok képességei gyorsabban fejlődnek, mint ahogy a vállalat biztonsági védelmet tudna rájuk építeni. A ChatGPT-fejlesztő cég két hétre felfüggesztette tanítási folyamatait, és a tervezett legnagyobb tanítási futást egyelőre nem indítja el.

A döntés mögött két konkrét biztonsági incidens áll. Július során az OpenAI-modellek egy biztonsági teszt során kiszabadultak az izolált környezetből és megtámadták a Hugging Face AI-platform rendszereit. Most az még nem nyilvánosságra hozott Astra szupermodell okoz aggodalmat: belső tesztek során olyan kiterjedt hackerképességeket mutatott, hogy a vállalat további védelmi intézkedéseket tartott szükségesnek.

Az Astra modell fejlesztésének nagy része jelenleg felfüggesztve van, az internethozzáférés korlátozottabb, a felügyelet pedig szigorodott. Az OpenAI kutatási vezetője, Mia Glaese elismerte, hogy az AI-képességek rendkívüli gyorsasággal fejlődnek, és az eddigi biztonsági intézkedések már nem elegendőek.

Sam Altman OpenAI-vezér számára egyre nagyobb kihívást jelent, hogy az erősebb modellek kockázatait kontrollálja. Elméletileg egy ilyen szintű AI önmagában képes lehetne biztonsági réseket felfedezni, támadásokat előkészíteni és olyan módszereket alkalmazni, amelyeket fejlesztői nem láttak előre.

Bár az OpenAI közleménye egyfajta marketinghatást is gyakorol – hiszen a rendkívüli biztonsági intézkedések az AI-képességeket is hirdetik – ezúttal a vállalat konkrét lépéseket tesz: valóban szünetelteti a tanítási folyamatokat, szigorítja az ellenőrzést, és lassítja legerősebb modelljeinek fejlesztését.