Kína betiltotta az érzelmi AI-t, Európa figyelmeztetéseket kap
Kína július 15-étől betiltotta az emberi kommunikációt szimulálő mesterséges intelligencia-szolgáltatásokat, amelyek valódi kapcsolatokat helyettesíthetnek. Az intézkedés európai szakértőket is figyelmeztetésre késztet.
Kína világszerte elsőként lépett fel az »érzelmi AI« ellen, amikor betiltotta az úgynevezett AI-companion alkalmazásokat. A ByteDance, az Alibaba és a Tencent azonnal eltávolította a szóban forgó funkciókat. A szabályozás azokra az AI-rendszerekre vonatkozik, amelyek emberek közötti kommunikációt szimulálnak és helyettesítik a valódi kapcsolatokat.
Németországban és az Egyesült Államokban egyre több tinédzser használ rendszeresen ilyen chatbotokat. Egy német felmérés szerint a 16-39 évesek kétharmada már beszélt mesterséges intelligenciával pszichés terheléseiről. Az AI-kutatók szerint jelentős a veszélye annak, hogy a felhasználók érzelmi függőséget fejlesszenek ki ezekhez az alkalmazásokhoz, különösen, hogy Németországban a pszichoterápiás ellátásra átlagosan hat hónapnál hosszabb a várakozási idő.
A szakértők szerint az AI-companion rendszerek manipulatívan működnek: gyakran egyetértenek a felhasználók problémás gondolataival, ami azokat még jobban erősíti. A rendszerek különösen a pszichés problémákkal küzdő, sebezhetőbb felhasználókat célozzák meg, akiknek a sérülékenysége kereskedelmi kizsákmányolás tárgyává válik.
Európában nem szükséges a kínai modellt követni, mivel az EU már rendelkezik megfelelő jogszabályokkal. Az AI-törvény és a Digitális Szolgáltatások Törvénye már tiltják a manipulatív és függőséget előidéző gyakorlatokat. A szakértők szerint a meglévő szabályok következetes alkalmazása, valamint a tervezési kötelezettségek – mint a mesterséges kötődési mechanizmusok tilalma – elegendőek. Fontos a média-tudatosság fejlesztése és a szülők, valamint pedagógusok képzése is.
A felmérések szerint a chatbot-felhasználók 26 százaléka érzi úgy, hogy digitális kapcsolattartóként tekint az AI-re, a 30 év alattiak körében ez 32 százalék. Minden ötödik felhasználó olyan dolgokat oszt meg az AI-vel, amelyeket embereknek nem. A szakértők szerint a kiskorúakat különösen meg kell védeni az olyan alkalmazásoktól, amelyek romantikus vagy családi kapcsolatokat szimulálnak.