Izrael és Oroszország mesterséges intelligenciát manipulál propagandával
Izraeli és orosz szervezetek szisztematikusan próbálják befolyásolni a ChatGPT, Claude és más AI-chatbotok válaszait politikai propagandával feltöltött weboldalakon keresztül. Az ún. »LLM grooming« technika révén a nagy nyelvi modellek torzított információkat közvetítenek.
Az izraeli kormány megbízásából Brad Parscale, Donald Trump volt kampányfőnöke több millió dolláros szerződés alapján hoz létre weboldalakon és cikkeken keresztül olyan tartalmakat, amelyeket az AI-rendszerek »textfutárként« használnak fel. A Clock Tower nevű cég alatt működő Parscale célja, hogy az AI-chatbotok az izraeli narratívát erősítsék meg a felhasználói kérdésekre adott válaszaikban. A Perplexity AI például az izraeli-amerikai katonai együttműködésre vonatkozó kérdésre Parscale által létrehozott weboldalt hivatkozva válaszol.
Oroszország nagyobb léptékben működik: a Prawda-hálózat 2024-ben 3,6 millió cikket tett közzé több mint 49 országban. Az amerikai Newsguard vizsgálata szerint az OpenAI ChatGPT, a Google Gemini és más vezető AI-modellek az esetek 33 százalékában ismételték meg az orosz propagandahálózat által terjesztett hamis állításokat. Az American Sunlight Project becslése szerint az EU-s felhasználók havonta több mint félmillió orosz befolyás alatt álló AI-válaszokat kapnak az ukrajnai háborúval kapcsolatos kérdésekre.
A propagandaoldalakon keresztüli befolyásolás az AI-modellek előképzési fázisát is érinti, ahol az alapvető nyelvi megértés alakul ki. Brit és amerikai kutatók kimutatták, hogy mindössze 250 speciálisan előkészített dokumentum is elegendő lehet az AI-modellek torzításához. Az izraeli és orosz kampányok azt mutatják, hogy az AI-chatbotok »semleges tudásautoritásként« való megítélése miatt az ilyen manipulációk potenciálisan nagyobb hatást gyakorolhatnak, mint a hagyományos közösségi médiás dezinformáció.
Forrás: Tagesspiegel — „Wie politische Propaganda die KI überlistet Trumps gescheiterter Ex-Berater manipuliert heute Chatbots - Tagesspiegel”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.