A Google integráció veszélyes: mesterséges képek a valós műholdas térképen

A Google egy nappal ezelőtt bejelentette, hogy az AI képgenerátor Nano Banana integrálódott a Google Earth-be, amely eddig valós műholdas és légi felvételekhez használt. A felhasználók így egyszerűen kiválaszthattak egy helyet a térképen, és szöveges utasítások alapján hamisított képeket generálhattak — például robbanások, tömegpusztítás vagy terrorista támadások ábrázolásával.

A funkció azonnali biztonsági kockázatokat teremtett. Az újságírók, kutatók és hírszerzési szakemberek számára a Google Earth eddig megbízható forrás volt fegyveres konfliktusok, természeti katasztrófák vagy tömegsírok dokumentálásához. A hamisított képek azonban könnyedén felhasználhatók voltak dezinformációs kampányokhoz, különösen háborús zónák eseményeinek meghamisításához. A cikk szerzője mindössze négy másodperc alatt készített egy Trump-szállodáról szóló képet a Gázai övezet területén.

A Google kezdetben azzal válaszolt, hogy a Nano Banana által készített képek SynthID digitális vízjellel rendelkeznek, és a felhasználók a Gemini alkalmazással vagy a Lens keresési funkcióval ellenőrizhetik az AI-generált tartalmakat. Azonban a cikk szerzőjének megkeresésére a cég gyorsan meggondolta magát, és bejelentette, hogy »erősebb biztonsági intézkedések« megvalósítása közben visszavonják a funkciót.

Ez nem az első eset, hogy a Google biztonsági intézkedések nélkül bocsát ki AI-funkciókat. Tavaly egy ruházati próbálkozó eszköz lehetővé tette szexuális tartalmak generálását, még kiskorúakról is. 2024-ben a Gemini rasszista képeket készített, és a Google Search AI-áttekintése veszélyes egészségügyi tanácsokat adott. Az iparág szisztematikus problémája, hogy a cégek — köztük az Elon Musk Grok-ja — kevés vagy semmilyen előzetes ellenőrzés nélkül adnak ki AI-termékeket.