A ChatGPT előítéletei: az AI regionális sztereotípiákat terjeszt
A Die Zeit vizsgálata szerint a ChatGPT német városokról és régiókról olyan előítéleteket fogalmaz meg, amelyek sztereotípiákon alapulnak – például hogy Hannover lakói »idegesítőbbek«, vagy hogy a Harz »lusta« embereket lakik.
A Die Zeit cikke rávilágít arra, hogy a ChatGPT, amely hetente körülbelül 900 millió felhasználót szolgál ki, regionális sztereotípiákat és előítéleteket közvetít. Az AI-chatbot olyan megállapításokat tesz, mint hogy Hannover lakosai »idegesítőbbek« az országos átlagnál, vagy hogy Freiburg im Breisgau a »legboldogabb« város Németországban, illetve hogy a Harz régiójában laknak a »legtöbb lusta« emberek.
A vizsgálat felhívja a figyelmet arra, hogy milliók használják a ChatGPT-t hetente e-mailek írásához, személyes tanácsadáshoz, pénzügyi döntésekhez és általános információforrásként. Az AI-modell által terjesztett regionális előítéletek azonban potenciálisan félrevezető információkat közvetíthetnek a felhasználóknak.
A felfedezés rámutat az olyan nagy nyelvi modellek által támasztott kihívásokra, amelyek képzési adataikban meglévő torzításokat és sztereotípiákat reprodukálhatnak. Az eset azt sugallja, hogy szükséges az AI-rendszerek alaposabb vizsgálata és fejlesztése ahhoz, hogy csökkentsék az ilyen típusú előítéleteket.