Az OpenAI Astra modellje kritikus kibertámadási képességeket mutathat

Az OpenAI belső értékeléseit közölve bejelentette, hogy az Astra modell – amely hamarosan kerül majd bevezetésre – olyan fejlődést mutatott az ügynöki kódolásban és a kiberbiztonságban, hogy a vállalat nem tudja kizárni a kritikus szintű kibertámadási képességeket. Az értékeléseket az OpenAI Felkészültségi Keretrendszere alapján végezték, amely a biológia, kémia, kiberbiztonsági és AI-fejlesztési képességek szintjét méri.

A kritikus szint eléréséhez egy modellnek képesnek kell lennie arra, hogy azonosítson és fejlesszen működőképes zéró napos exploitokat minden súlyossági szinten számos megerősített valós rendszeren emberi beavatkozás nélkül, vagy hogy teljes körű, újszerű kibertámadási stratégiákat dolgozzon ki és hajtson végre megerősített célpontok ellen. Az OpenAI szerint az Astra előzetes értékeléseiből az derül ki, hogy a teljesítménye elég erős ahhoz, hogy ezt a szintet nem lehet kizárni.

A vállalat válaszként megerősítette a biztonsági intézkedéseket és a robusztussági tesztelést. Az OpenAI hangsúlyozta, hogy az ilyen képességekkel rendelkező modellek a védekezőket segíthetik az sebezhetőségek azonosításában és elhárításában. A cég azt közölte, hogy kormányokkal, biztonsági intézetekkel és civil szervezetekkel együttműködve kívánja biztosítani az ilyen modellek felelős és széles körű alkalmazását.