Jemeni milícia AI-t használt rakétavezérléshez

Az Anthropic közzétett egy jelentést, amely szerint egy észak-jemeni cella három fegyverfejlesztési programon dolgozott: egy többlépcsős ballisztikus rakétán, egy másik raketavariánson és egy vezetett rakétán. A csoport a Claude Code AI-eszközt használta a navigációs, vezérlési és stabilizációs szoftver megírásához, valamint nyílt forráskódú autopilota-szoftver adaptálásához és flugszimuláció futtatásához. A vezetett rakéta tesztlövése azonban meghiúsult, és az Anthropic szerint nincs bizonyíték arra, hogy működőképes fegyver került szolgálatba.

A támadók a Claude biztonsági mechanizmusait egyszerű módszerekkel kerülték meg: céljaikat és szoftver felhasználási célját elhomályosították, valamint munkájukat több munkamenet között osztották fel, így egyetlen munkamenet sem fedte fel teljes szándékukat. Az érintett fiókok ezt követően zárolásra kerültek, és az információt az amerikai állam és gazdaság partnereinek továbbították. Az Anthropic azonban megjegyzi, hogy a támadók már saját szimulációs eszközt fejlesztettek ki, amely nem függ a Claude-tól.

Az eset az AI-fejlesztési tempó lassítása mellett érvelő szabályozási vitába csapódott be. Az Anthropic vezetője, Dario Amodei azt javasolta, hogy független felügyelőknek legyen állandó hozzáférésük az AI-cégekhez, és a kartellszabályok enyhüljenek az egységes biztonsági szabványok megállapítása érdekében. Az esetet azonban csak az Anthropic dokumentálta és közölte nyilvánosan – független ellenőrzés nem történt.