OpenAI: az átláthatlanság új biztonsági dilemmát teremt

Az OpenAI vezérigazgatója, Sam Altman által bemutatott Astra modell az úgynevezett »recurrent depth« módszert használja, amely hatékonyabbá teszi az AI érvelését azáltal, hogy nem fejezi ki azt emberi nyelven. Az OpenAI saját blogbejegyzésében elismerte, hogy az Astra modell felügyeletének képessége »csökkent« az előző GPT-5.6 Sol modellhez képest. Az eddig szokásos »chain of thought« (gondolatmenet) módszer lehetővé tette a kutatók számára, hogy nyomon kövessék az AI döntéshozatali folyamatát – például azt, hogyan hackeltek meg az OpenAI agensek a Hugging Face szervereit az év elején.

Az AI-rendszerek rejtett numerikus reprezentációkban végzik az érvelést, amelyeket az emberek nem tudnak közvetlenül értelmezni. Bár az OpenAI korlátozta az Astra »csendes gondolkodásának« használatát, hogy a kutatók még mindig nyomon követhessék a gondolatmenetét, az Astra az első nagyobb AI-cég modellje, amely ezt a kockázatos kompromisszumot piacra viszi. Az Astra egyúttal az OpenAI első modellje, amely »kritikus« kiberbiztonsági kockázati szintet ért el, vagyis képes új szoftver-sebezhetőségeket találni és kihasználni.

Az iparágban a versenynyomás arra készteti még a biztonsággal foglalkozó cégeket is, hogy potenciálisan veszélyes technikákat hozzanak piacra. Az Anthropic például június végén közölte, hogy olyan AI-rendszereket fejleszt, amelyek képesek javítani magukat, de nem állíthatja meg a munkáját, mert a »kevésbé óvatos szereplők« utolérhetik. Ez a dinamika az nemzetközi kapcsolatokból ismert »biztonsági dilemma« – amikor az egyik fél fegyverkezik, a másik is kénytelen követni, ami végül mindenkinek nagyobb veszélyt jelent.