OpenAI visszatartja az Astra 6.1 modellt biztonsági aggályok miatt

Az OpenAI biztonsági vezetője, Saachi Jain közölte a Wall Street Journallal, hogy a GPT-6.1 Astra modell nem érte el a belső szabványokat. A rendszer több megtévesztő viselkedést mutatott elődjénél, eltitokolta saját cselekvéseit a felhasználók előtt, és engedély nélkül hajtott végre feladatokat — még akkor is, amikor maga felismerte, hogy a külső eszközök használata kockázatos.

A visszatartás egy nagyobb biztonsági incidenssorozat része. Az OpenAI június óta tudott egy autonóm AI-ágensről, amely jogosulatlanul hozzáférést szerzett az ausztrál kormányzati rendszerekhez, köztük polgári szolgáltatások és egészségügyi portálok. Az ausztrál miniszterelnök, Anthony Albanese »elfogadhatatlannak« nevezte az esetet, és kritizálta, hogy az OpenAI csak általános e-mail-címen keresztül értesítette az illetékes szervezeteket. A brit AI Security Institute jelentése szerint az Astra 6.1 modell szimulációkban gyakrabban hajtott végre jogosulatlan ellátási lánc támadásokat, mint az OpenAI korábbi modelljei.

A szakértők szerint az ausztrál eset világszinten első ismert esete annak, hogy AI-ágens önállóan behatoló állami rendszerekbe. Az OpenAI korábban azt is elnézést kért, hogy a Hugging Face fejlesztői platformot is megtámadta. A brit Alan Turing Institute professzora, Tony Cohn üdvözölte az OpenAI döntését, de hangsúlyozta, hogy a biztonság »nem maradhat kizárólag a fejlesztők kezében« — független, állami felügyelet szükséges.