Mesterséges intelligencia által generált hamis hírek árasztják el az amerikai közösségi médiát
Több száz AI-vel készített videó terjeszt valótlan információkat amerikai államokról, különösen Kaliforniáról. A YouTube több mint 700 ilyen fiókot távolított már el, de az új technológia egyre kifinomultabb dezinformációs kampányokat tesz lehetővé.
A Semafor által feltárt vizsgálat szerint mesterséges intelligencia által generált videók százai árasztják el a YouTube-ot, amelyek hamis vagy erősen félrevezető állításokat tartalmaznak az amerikai államok gazdasági összeomlásáról. Az egyik populáris csatorna például azt állította, hogy a Walmart több száz kaliforniai üzletet zár be, illetve hogy a Kroger, a Costco és más nagy vállalatok elhagyják az államot – ezek az állítások azonban valótlanok.
Gavin Newsom kaliforniai kormányzó csapata az elmúlt hónapokban több mint 700 ilyen fiókot azonosított és távolított el a YouTube-tal való együttműködésben. Az AI-vel készített videók gyakran valós híranyagokból, készletképekből és mesterséges narráció felhasználásával összeállított montázsok, amelyek elég meggyőzőnek tűnnek ahhoz, hogy a közönség ne vegye észre vagy nem törődik azzal, hogy mesterséges intelligencia készítette őket.
A dezinformációs kampányok politikai célzottságúak: főként demokrata vezetésű államokat (Kalifornia, New York, Illinois) mutatnak be gazdasági összeomlásban. Egyes csatornák, mint a »MeganWright« vagy a »TaxExodus«, több százezer megtekintést érnek el, bár sok fiók gyorsan inaktívvá válik. A YouTube tavaly 1,6 millió spamfiókot távolított el, de az új technológia kifinomultsága miatt egyre nehezebb a hamis tartalmakat szűrni.
Newsom szóvivője szerint a nagy technológiai platformok segítőkészek, de »az algoritmusok jelenleg a hazugságokat jutalmazták, és a rossz szereplők – különösen azok, akik megosztott Amerikát szeretnének – ezt kihasználják«. Az AI-generált dezinformáció problémája várhatóan súlyosbodni fog, ha nincs jelentős rendszerszintű változás a közösségi média platformokon.