Google AI-ja aranyat látott a Flock kamerákban – pedig nem volt ott

A Google mesterséges intelligenciája egy internetes mém alapján azt állította, hogy a Flock AI-alapú rendszámfelismerő kamerái 1-5 gramm aranyat és 2-23 font rezet tartalmaznak. Az adatok azonban fizikailag lehetetlen voltak egy mindössze 1,4 kilogrammos eszköz esetében, és nem alapultak valós szétszerelési adatokon vagy anyagvizsgálatokon.

A Google rendszere az információt két megbízhatatlan forrásból vette: egy anonimusz Substack-posztból és egy mesterséges intelligencia által generált Instagram-bejegyzésből. Az első szerző saját bevallása szerint csak becsléseket közölt, a második pedig egy olyan fiók volt, amely elsősorban marihuána-termesztésről posztolt.

A Flock kamerái az interneten a felügyeleti technológia elleni tiltakozás szimbólumává váltak. A mém azt sugallta, hogy a kamerák szétszedése és értékesítése scrapként jövedelmező lenne – valójában azonban az elektronikai hulladékból kinyerhető fémek értéke minimális. A Google később korrigálta az AI-válaszát, amely most azt közli, hogy az arany csak nyomokban van jelen, ahogyan más kis elektronikai eszközökben is.

Az eset rávilágít az AI-összefoglaló rendszerek veszélyeire: az algoritmusok gyakran nem értik meg a kontextust, nem ellenőrzik az adatok logikai konzisztenciáját, és megbízhatatlan forrásokat is tényként közvetíthetnek. Az incidens azt mutatja, hogy a széles körben használt AI-eszközök milyen gyorsan tudnak viccből látszólagos tényeket csinálni.