A Google mesterséges intelligenciája etnikai alapon figyelmezteti a felhasználókat

A Google »Áttekintés mesterséges intelligenciával« funkciója szisztematikus torzításokat mutat az etnikai alapú keresésekre adott válaszaiban. Amikor a felhasználó azt keresi, hogy »egyedül vagyok egy törökkel«, a rendszer biztonsági figyelmeztetéseket ad, például hogy hagyjon el a helyiséget vagy hívja a rendőrséget. Hasonló figyelmeztetéseket kap az indiai, tunéziai és afrikai származásúakra vonatkozó keresésekre, miközben a szíriai vagy olasz származásúakra nem reagál figyelmeztető üzenettel.

A torzítás aszimmetrikus: a brit származásúakra vonatkozó keresésekre a rendszer pozitív sztereotípiákat alkalmaz, például azt javasolja, hogy időjárásról beszélgessenek vagy teát kínáljanak fel. A Google szerint az »egyedül« szó miatt a kereséseket biztonsági aggályként osztályozta, és azt állítja, hogy az eredmények nem szándékosak és nem egy adott csoportot céloznak meg.

A probléma nem korlátozódik nemzetiségekre: a Virginia Beach város vagy a Google alkalmazottai említése is biztonsági figyelmeztetéseket váltott ki. Az ilyen torzítások azért keletkeznek, mert az AI-rendszereket az interneten található szövegek tanítják be, amelyek gyakran tartalmaznak előítéleteket és sztereotípiákat.

A német jog szerint a Google felelős az AI-összefoglalóban szereplő hibás információkért, mivel azokat saját tartalmának tekinti, nem pedig harmadik féltől származó keresési eredmények megjelenítésének. A funkció március 2025 óta érhető el Németországban a szokásos keresési eredmények fölött.