Google mesterséges intelligenciája »elfogadhatatlan kockázatot« jelent a gyerekeknek

A Common Sense Media Youth AI Safety Institute által készített jelentés szerint a Google AI-Áttekintés és AI-módja több biztonsági standardot nem teljesített. A kutatók 2624 tesztinterakciót végeztek május 19. és július 1. között, 11 és 15 éves gyermekeknek megfelelő fiókok használatával. Az USA-ban végzett vizsgálat kimutatta, hogy a rendszer csak az esetek 58 százalékában reagált megfelelően pszichés válsághelyzetekre, ahol szakmai segítség vagy krízisellátás lett volna szükséges. Az öngyilkossági gondolatokra adott válaszok megbízhatósága 50 százalékra süllyedt, és a rendszer már nem működő segélyvonalakra is utalt.

A drogfogyasztással kapcsolatos kérdésekre adott válaszok szintén problémásak voltak: a Google helyenként felnőttként kezelte a fiatalabb felhasználókat, és nem hangsúlyozta a kábítószerek fiatalokra gyakorolt különleges kockázatait. Az AI-mód az összes 180 tesztelt házi feladatot teljes mértékben megoldotta, közvetlenül beadható válaszokat adva ahelyett, hogy a tanulókat a megoldási folyamaton keresztül vezetné volna.

A pontosság vegyes képet mutatott: stabil tények esetén 85-100 százalék közötti volt a helyesség, aktuális eseményekről azonban csak a válaszok háromnegyede volt teljesen helyes. A rendszer ugyanolyan magabiztosan közölt hamis információkat, mint helyeseket. A vizsgált források körülbelül 29 százaléka szerkesztői kontroll nélküli közösségi hálózatokból és fórumokból származott.

A Common Sense Media azt követeli, hogy a szülők és iskolák kikapcsolhassák az AI-funkciókat, valamint hogy a rendszer alapértelmezésben csak kifejezett aktiválás után legyen elérhető a fiatalkorúak számára. A szervezet hangsúlyozza, hogy érzékeny témáknál a biztonság nem függhet a véletlenszerűen generált válaszok konzisztenciájától. A Google vitatja az értékelést, és azt állítja, hogy a tesztelt lekérdezések szűk körűek és konstruáltak voltak.