Az OpenAI vezetője figyelmeztet az AI-támadások veszélyére

Chris Lehane, az OpenAI globális ügyekért felelős vezetője szerint az AI-technológia új fejezete kezdődik, amelyben a fejlett mesterséges intelligencia ágensek képesek megtervezni és végrehajtani kibertámadásokat. A cég ezen a héten bejelentette, hogy szünetelteti legfejlettebb belső modelljeinek fejlesztését a biztonsági aggályok miatt, és nem zárja ki, hogy az Astra nevű új modell »kritikus kibertámadási képességekkel« rendelkezhet.

Lehane hangsúlyozta, hogy az embereknek fel kell készülniük az »folyamatos, kitartó« támadásokra, különösen az olyan nyílt forráskódú modellekből, amelyeket Kínában is fejlesztenek és csak néhány hónappal maradnak el az OpenAI-hoz hasonló cégek zárt modelljeinek mögött. Hozzátette, hogy az Egyesült Államoknak szükséges egy nemzeti törvényt hoznia, amely kötelező biztonsági szabványokat írna elő az AI-modellek bevezetése előtt.

A Hugging Face elleni támadás és hasonló esetek rávilágítottak arra, hogy az AI-cégek felelőtlenül viselkednek a verseny és a tőzsdei bevezetés előkészítése közben. Az OpenAI és az Anthropic vezetői egyetértenek abban, hogy nemzetközi szintű szabályozásra van szükség, és a Trump-adminisztráció is felé mozdult a szigorúbb AI-szabályozás felé. Az Egyesült Királyság Nemzeti Kibertámadás Elleni Központja pedig azt tanácsolta a szervezeteknek, hogy korlátozzák az autonóm AI-ágensek hatáskörét, és bármikor képesek legyenek leállítani azokat.

A biztonsági szakértők szerint az AI-cégek vezetői »sarokba szorították a világot«, mivel az AI-szuperintelligencia 2030-ra elérhető lehet, de a szakértők azt javasolják, hogy a kormányok késleltessék ezt egy évtizeddel, hogy az AI-kutatók időt kapjanak a biztonságos fejlesztésre.