Mesterséges intelligencia által generált képek megtévesztik a gyászolókat a Facebookon
Egy német vonatbaleset után mesterséges intelligenciával készített képek árasztották el a közösségi médiát, amelyek hamis információkat terjesztettek az eseményről. A szakértők szerint az ilyen tartalmak elsősorban követők gyűjtésére és későbbi monetizálásra szolgálnak.
Leingarten városában egy anya halálát okozó vonatbaleset után több Facebook-oldal mesterséges intelligenciával generált képeket osztott meg, amelyek nem voltak összhangban a valósággal. Az egyik helyi lakos, Daniela személyesen járt az esemény helyszínén, és észrevette, hogy a közösségi médiában látott képeken virágok hatalmas mennyisége, kettős babakocsik és vasúti sorompók voltak, amelyek azonban nem voltak jelen a valódi helyszínen.
A Stuttgart-i Médiaművészeti Főiskola kutatója, Stefan Rohrbach szerint az ilyen tartalmak mögött gazdasági motiváció áll. A fiókok követőszámának növelésével később kereskedelmi vagy kommunikációs célokra használhatók. A Facebook irányelvei szerint a halálhoz kapcsolódó tartalmak befolyásolhatják a monetizálási lehetőségeket, és a nagy követőszámmal rendelkező fiókok értékes eszközökké válnak.
A vizsgálat során feltárt »Eilmeldung Aktuell« nevű oldal több száz interakciót generált a baleset kapcsán, és az oldal üzemeltetője a közösségi média fiókok eladásával foglalkozó platformokon keres vevőket. Az oldal képviselője azt állította, hogy szándékosan használnak szimbólumképeket, hogy elkerüljék az eredeti baleseti fotókat, és hogy a felhasználók ezt megfelelőbbnek tartják.
Rohrbach szerint a klasszikus mesterséges intelligencia-hibák, mint az emberek hat ujja, egyre ritkábbak, ezért a felhasználóknak az érzelmi manipulációra utaló jeleket kell keresniük. Az EU AI-törvénye előírja majd, hogy a fiókok az első kontaktuskor nyilvánítsanak az AI-generálásról, de a szakértő szerint a kritikus gondolkodás és a fiókok hitelességének ellenőrzése marad a legfontosabb védekezési módszer.
Forrás: SWR — „Ein Tödlicher Zugunfall und seine Folgen: Wie KI-Bilder Trauernde auf Facebook täuschen - SWR”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.