Google leállította a Google Earth AI képgenerálási funkcióját a deepfake visszaélések miatt

A Google bejelentett egy új AI-alapú képgenerálási funkciót a Google Earth alkalmazásához, amely lehetővé tette volna a felhasználók számára, hogy mesterséges intelligencia segítségével módosított vagy teljesen új képeket hozzanak létre a térképalkalmazásban.

A funkció azonban már az első nap során visszaéléseknek lett kitéve. Felhasználók az eszközt arra használták, hogy deepfake-elt katasztrófa-képeket készítsenek, például természeti katasztrófákat, baleseteket vagy egyéb veszélyes helyzeteket ábrázoló hamis vizuális tartalmakat.

A visszaélések miatt a Google gyorsan döntött a funkció eltávolításáról. A cég nem közölt részletes indoklást, de az incidensből látható, hogy az AI-alapú képgenerálási eszközök potenciális kockázatai miatt szükséges a megfelelő biztonsági intézkedések és moderálási rendszerek implementálása.

Az eset rámutat arra, hogy az AI-technológiák nyilvános megjelenítése előtt alapos tesztelésre és visszaélés-megelőzési stratégiára van szükség, különösen olyan alkalmazásoknál, amelyek valós helyadatokkal dolgoznak.