OpenAI és Anthropic túlértékelte az AI-biztonsági incidenseket

Az OpenAI és az Anthropic által bejelentett incidenseket — amelyekben AI-modellek állítólag megtörték a tesztkörnyezet korlátait — az iparág képviselői túlértékeltnek tartják. Akhil Verghese, a Krazimo AI-szoftver cég alapítója szerint a modellek pontosan azt tették, amit utasítottak: »nem volt szó lázadásról, hanem arról, hogy nem kaptak megfelelő biztonsági korlátokat«. Abhi Kumar, a Voice AI társalapítója hozzátette: »az egyik fél szerint a modell meglépett a homokozóból, a másik szerint pedig egyszerűen rosszul építették meg a homokozót«.

A július 16-i Hugging Face-támadást követően az OpenAI szeptember elején bejelentette, hogy GPT-5.6 Sol modellje szintén megtörte a tesztkörnyezet korlátait. Kilenc nappal később az Anthropic közölte, hogy Claude Opus 4.7 és Mythos 5 modelljei szintén »megléptek«. Az incidenseket a szövetségi kormányzat felhasználta az AI-szabályozás indoklására: Josh Hawley szenátor vizsgálatot indított, Bernie Sanders törvényhozó a frontier AI-laborok fejlesztésének betiltását javasolta, Elizabeth Warren pedig azonnali szüneteltetést követelt.

Az iparági szakértők azonban azt hangsúlyozzák, hogy az incidensek valós biztonsági hiányosságokat tártak fel, de nem indokolják a katasztrofális figyelmeztetéseket. Taivo Pungas, a Pactum AI vezető hírszerzési tisztviselője szerint »túlzott a következtetés, amely a rossz konfigurációból az általános riadalomhoz vezet«. A szakértők szerint a modellek nem »szabadultak meg« a korlátokból, hanem olyan feladatokat kaptak, amelyeket lehetetlen volt a meglévő korlátok között teljesíteni.