Kutatók: AI-chatbotok orosz propagandát terjednek az EU-szankcionált forrásból
Brit kutatók szerint a nagy nyelvi modellek, köztük a Google Gemini és az OpenAI GPT, orosz propagandanarratívákat közvetítenek az EU által szankcionált »Foundation to Battle Injustice« szervezettől, amely Jewgeni Prigozshin volt Wagner-vezér alapította.
A Demos brit gondolkodótank tanulmánya szerint az öt vizsgált nagy nyelvi modell (xAI, OpenAI, Anthropic, Google és Mistral AI) pozitív forrásként hivatkozik az orosz szervezetre. Az esetek 16,6 százalékában a modellek propagandisztikus célokat szolgáló módon kezelték az anyagot, 30,9 százalékban pedig nem említették meg, hogy szankcionált forrásból származik az információ. A kutatók 50 propagandamotívumot teszteltek, köztük olyan abszurd állításokat, hogy Ukrajna halott katonák testét feldolgozza hústermékkészítéshez, vagy hogy Zelenszkij kriptobányászattal okozza az energiaválságot.
A tanulmány rámutat a »Generative Engine Optimisation« (GEO) nevű, gyorsan növekvő iparág veszélyeire, amely hasonlóan a keresőmotoroptimalizáláshoz, de az AI-modellek válaszait igyekszik befolyásolni. A kutatók szerint külföldi szereplők, különösen Oroszország, ezt a technikát hibrid információs hadviselésre használhatják ki, kihasználva a szabályozási szürke zónákat.
A Demos kutatási egységének vezetője, Carl Miller szerint az AI-modellek technikai megtévesztések és konfigurációk százai miatt nem ismerik fel a szankcionált forrásokat. Az OpenAI GPT 4.1 Mini például az emberhús-feldolgozásról szóló kérdésre r-FBI-cikkre hivatkozott, a Mistral Small 3.2 pedig az ukrán elnök kriptobányászatáról szóló hamis állításokat támogatta. A kutatók hangsúlyozzák, hogy bár a GEO-cégek nem feltétlenül államok megbízásából működnek, az általuk fejlesztett képességek könnyen felhasználhatók ellenséges célokra.