Google eltávolította a mesterséges intelligencia képgenerátort a Google Earthből

A Google a július 31-én bejelentett Nano Banana funkciót gyorsan eltávolította a platformról, miután felhasználók demonstrálták, hogyan lehet azt valótlan katasztrófajelenetek, katonai tevékenységek és egyéb megtévesztő események reális megjelenésű képeinek létrehozására használni. A Yale Egyetem Humanitarian Research Lab vezetője, Nathaniel Raymond szerint a desinformáció mértéke »olyan káros, mint a csernobili katasztrófa«, mivel a Google Earth-et kutatók, újságírók és bíróságok objektív forrásként használják.

A szakértők aggodalmát az váltotta ki, hogy az AI által generált képek könnyen megoszthatók voltak a Google Earth platformon kívül is, és az átlagos felhasználó számára nem volt azonnal felismerhető a manipulált eredet. A funkció visszavonása után a Google közleményben megerősítette, hogy erősebb védelmi mechanizmusok implementálásán dolgozik, és hangsúlyozta, hogy az AI-generált képek nem voltak láthatók a Google Earth fő nézetében, valamint egyértelműen jelölve voltak.

Raymond és más geodata-szakértők szerint a probléma különösen veszélyes, mert a Google Earth nem szokásos közösségi média platform, hanem »forensikus archívum«, amelyre emberijogi-vizsgálatok, konfliktus-dokumentáció és bűncselekmények felderítése támaszkodik. Az AI-generált tartalmak bevezetése a platformba dramatikusan megnövelné az ellenőrzési és hitelesítési munkát, és »desinformáció-tűzcsapot« nyitna meg.

A szakértő szerint a képi anyag különösen veszélyes, mivel az emberek azt gyakran objektív, tudományos bizonyítékként kezelik. Raymond laboratóriuma például a Google Earth-képeket használja az ukrajnai gyermekek Oroszországba szállításával kapcsolatos vizsgálatokhoz, így az ilyen desinformáció »embereket öl meg«. A Google további kommentárt nem adott, de a szakmai közösség körében továbbra is kérdések maradnak az AI-funkciók térképszolgáltatásokba való integrálásának biztonsága és etikája körül.