A Google visszavonta a mesterséges intelligencia által generált műholdképeket létrehozó funkciót

A Google csütörtökön bejelentett új funkciója lehetővé tette volna, hogy felhasználók egyetlen mondatos AI-utasítás segítségével hiperrealisztikus műholdképeket generáljanak a Google Earth-ön belül. Az eszköz segítségével olyan nem létező katasztrófákat lehetett volna ábrázolni, mint a szingapúri Changi repülőtér pusztulása vagy a Gardens by the Bay parkban kitört tűz. A Google az innovációt és a városplanificálást támogató eszközként pozicionálta, azonban a funkciót péntek reggel visszavonta.

A visszavonást szakértők gyors kritikája váltotta ki. Újságírók, mesterséges intelligencia-kutatók és nyílt forráskódú hírszerzési szakemberek figyelmeztetett arra, hogy az eszköz jelentősen megkönnyítené a dezinformáció terjesztését. A szakértők rámutattak, hogy a műholdképeket hagyományosan megbízható forrásként kezelik a világ szerte, és az AI-generálás natív integrálása a Google Earth-be a hamis információk terjedésének új szintjét nyitná meg.

A CNA tesztelése kimutatta, hogy a funkció eltávolítása előtt nem voltak korlátozások a hamis képek generálására, és a közösségi médiára való feltöltéshez nem kellett AI-generált voltát deklarálni. A kereskedelmi AI-detektálási eszközök közül több is az eredeti képeket valódinak minősítette. A Google közleménye szerint erősebb biztosítékokat fog beépíteni az eszközbe, mielőtt újra bevezetné azt.

A fejlemény különösen aggasztó a geopolitikai kontextusban: korábban már történtek kísérletek valós Google Earth-képek AI-manipulálására, mint például az iráni állami média által 2024 februárjában megosztott hamis dróncsapás-képek, amelyek milliókat értek el a közösségi médiában, mielőtt cáfolatra kerültek volna.