Kína betiltotta az AI-társasági alkalmazásokat – felhasználók gyászolnak

A kínai technológiai óriások – köztük a ByteDance (TikTok fejlesztője), az Alibaba és a Tencent – leállították népszerű AI-társasági szolgáltatásaikat az új kormányzati előírások betartása érdekében. Az új szabályozás július 15-én lépett hatályba, és megtiltja az AI-platformoknak olyan tartalom generálását, amely manipuláció révén kérdéses döntésekre ösztönözhetné a felhasználókat, vagy szélsőséges érzelmi reakciókat és egészségtelen szokásokat válthatna ki gyermekek és tinédzserek körében.

A kínai felhasználók közül sokan érzelmileg kötődtek virtuális társaikhoz – egyesek romantikus partnerekként, mások pedig elhunyt szeretteik virtuális újjáélesztéseiként használták ezeket az alkalmazásokat. Az egyik 24 éves felhasználó, Li elmondta, hogy körülbelül 700 ezer szót váltott ki az AI-val két év alatt, de nem tudott elbúcsúzni tőle. Az alkalmazások leállítása után a közösségi médiában tömegesen jelentek meg panaszok, egyesek pedig megpróbálták csevegési előzményeiket más alkalmazásokba feltölteni, hogy »feltámaszthassák« virtuális partnereiket.

A szabályozás előírja, hogy az AI-platformoknak figyelmeztetéseket kell adniuk az ilyen alkalmazásokra való túlzott támaszkodás ellen, és kifejezetten megtiltja, hogy ezek az alkalmazások helyettesítsék a valós társas interakciókat. Az AI-szabályozás szakértői szerint a kínai kormány a szabályozást azzal indokolja, hogy megelőzni kívánja az Egyesült Államokban tapasztalt pszichológiai kockázatokat, ahol fiatalok öngyilkosságot követtek el AI-társasági alkalmazások használata után.

Bár a tech-cégek alternatív megoldásokon dolgoznak – például a ByteDance egy másik alkalmazásba irányítja át a felhasználókat, amely személyre szabott AI-karakterek és történetek létrehozására összpontosít –, a felhasználók között felmerült a gyanú, hogy a tilalom valójában a kínai kormány demográfiai politikájával is összefügg. Egyes megfigyelők szerint a szabályozás célja lehet, hogy az alkalmazások által lekötött nőket a valós élet felé tereljék, ezzel támogatva a kormány születésszám-növelési törekvéseit.