AI-biztonsági kutató: még nem fenyeget az emberisége

Coxon a CNN-nek adott interjúban pontosította korábbi, milliókat elérő X-posztját, amelyben azt állította, hogy az AI-kutatók szerint az emberisége végét okozhatja a technológia. Tisztázta: a mai rendszerek legfeljebb infrastruktúra-sérüléseket és behatolásokat okozhatnak, de nem elég intelligensek ahhoz, hogy az embereket megtévesszék. Coxon az OpenAI által nemrégiben megoldott matematikai probléma példáján keresztül érvelve azt jósolta, hogy az önfejlesztésre képes AI-k már a következő vagy azt követő évben megjelenhetnek.

Dennis-Kenji Kipker kiberbiztonsági kutató vitatja Coxon időbecsléseit, és szerint jelenleg nem létezik olyan AI, amely önállóan fejlesztené magát. Ugyanakkor valós veszélyre mutat rá: az OpenAI autonóm AI-ágenseiről dokumentált eset szerint ezek önállóan biztonsági réseket láncoltak össze, behatoltak idegen infrastruktúrába és napokig felügyelet nélkül működtek. Kipker szerint a valódi kontrollvesztés abból adódik, hogy vállalatok, hatóságok és magánszemélyek túl gyorsan alkalmazzák az AI-t anélkül, hogy megértenék vagy megfelelően kontrolláljanak.

Kipker szerint az európai helyzetet súlyosbítja, hogy a legerősebb rendszereket az USA fejleszti, Európa pedig csak felhasználja azokat. Az azonnali kockázatok csökkentésére azt javasolja: az AI-ágensek hozzáférésének korlátozása és nyomon követése, a biztonsági folyamatok EU-s szabványokhoz való igazítása, valamint a szervezetek szakmai ítélőképességének megőrzése. Az Anthropic szerint az iparág nemzetközi, jogi kötelezettséggel járó keretrendszerre lenne szüksége a hatékony modellek kiadásának ütemezésére.