Google új AI-eszköze veszélyes hamis műholdképeket hozhat létre

A Google csütörtökön elindított új funkciója szöveges parancsok alapján képes hamis forgatókönyveket generálni a valós műhold-, légi- vagy 3D-képek fölé, amelyeket aztán letölthetnek és más platformokon megoszthatnak. A BBC Verify tesztjei során sikerült olyan képeket létrehozni, mint egy összeomlott Eiffel-torony, a gízai nagy piramis mellett egy szakadék, vagy orosz tankok Kijevben – mindez a valós koordinátákra és térképi adatokra »hegesztett« hamis tartalom formájában.

A szakértők szerint a technológia különösen veszélyes, mert a hamis képek a Google térképének hitelességét öröklik magukra. Az AI és dezinformáció szakértője, Henk van Ess szerint »az erfüggvény nem kell, hogy önmagában meggyőző legyen, hanem a térképből származó hitelesség miatt válik hitelesebbé«. A Google szerint láthatatlan vízjeleket helyez el a mesterséges tartalmakra, és a Gemini chatbot vagy a Lens funkció segítségével ellenőrizhetők a képek, azonban a BBC tesztjei kimutatták, hogy ezek a védelmi mechanizmusok megkerülhetők.

A dezinformációs szakértők szerint a konfliktuszónákban létrehozott hamis képek különösen »destabilizálóak« lehetnek, amikor az információ szűkös és az események gyorsan változnak. Bill Greer, a Common Space nonprofit szervezet geoszpacionális elemzője hangsúlyozta, hogy »a műholdképek történelmileg különösen megbízható adatforrásnak számítottak«, így az ezekbe vetett bizalom eróziója különösen káros lehet a nyilvánosság számára. A Google azt állítja, hogy irányelveket épített be az AI-modellbe a »káros témák« ábrázolásának megakadályozására, de a BBC tesztjei azt mutatták, hogy a kérések módosításával ezek a korlátozások megkerülhetők.