Google leállította a mesterséges intelligencia által generált műholdas képeket a deepfake-veszély miatt

A Google bejelentette, hogy visszavon egy új funkciót a Google Earth platformról, amely lehetővé tette volna a felhasználók számára, hogy egyetlen kattintással mesterséges intelligencia által generált műholdas képeket hozzanak létre. A vállalat közleménye szerint bár a geoszpacionális szakemberek hasznos célokra használták az eszközt, azonban olyan felhasználók is voltak, akik a generált képek megosztásával megsértették a platform szabályzatát.

A nyílt forráskódú kutatók és vizuális forensika szakértők azonnal felhívták a figyelmet az eszköz veszélyeire. Henk van Ess, egy nyílt forráskódú kutató azt tapasztalta, hogy az alkalmazás nem utasított vissza semmilyen kérést, még az iráni atomenergetikai létesítmények vagy a Gázai szpitálok megsérülésének ábrázolása esetén sem. Az NPR szerkesztősége könnyedén generált képeket az iráni Kharg-sziget lángoló állapotáról és az amerikai Capitolium elöntéséről – olyan események, amelyek nem történtek meg, de jelentős hírerek lennének, ha valósak volnának.

A szakértők szerint a műholdas képek eddig megbízható eszköznek számítottak a valódi események ellenőrzésére, mivel ezeket általában kormányok vagy intézmények kontrolálják, és a több száz kilométer magasságban keringő kamerák utánzása történelmileg nehéznek bizonyult. Jake Godin, a Bellingcat vizuális forensika kutatója azonban figyelmeztet, hogy az AI-eszközök egyetlen kattintásra történő integrálása felgyorsítaná a hamis képek terjedését és növelné a dezinformáció lehetőségét.

A szakértők aggódnak, hogy a hamis műholdas képek elterjedése alááshatja a nyilvánosság bizalmát, mivel a kormányok már most is azt állíthatják, hogy valódi műholdas képek hamisak. Van Ess szerint különösen aggasztó, hogy »a hamis képeket abban az eszközben hozzák létre, amelyet az emberek arra használnak, hogy ellenőrizzék, valódiak-e a képek«.