Kína az amerikai AI-eszközöket használja propagandához és befolyásszerzéshez

Az OpenAI és más amerikai cégek felfedezéseiből kiderül, hogy kínai kormányzati szervezetek és azokkal kapcsolatban álló magáncégek meglévő AI-modelleket használnak összetett, nagy léptékű propagandaoperációkhoz. Az egyik eset során kínai felhasználók a ChatGPT-t arra használták, hogy angol nyelvű propagandaanyagokat hozzanak létre az amerikai adatközpontok energiaigénye ellen, ezzel próbálva megakadályozni az amerikai AI-infrastruktúra fejlesztését. Egy másik esetben kínai erők a ChatGPT segítségével terveztek kampányt a japán miniszterelnök ellen, amely hamis közösségimédia-fiókokat és koordinált támadásokat tartalmazott.

A kutatások azt mutatják, hogy a kínai állam az AI-modellek tanítási adatait is befolyásolja. A Nature folyóiratban megjelent tanulmány szerint az amerikai chatbotok, mint a ChatGPT és a Claude, kínai nyelvű kérdésekre sokkal pozitívabban válaszolnak Kínáról, mint angol nyelvűekre, mivel a kínai állami hírforrások (például a Xinhua) felülreprezentáltak az adatokban. A kínai DeepSeek chatbot pedig 99 százalékban pozitívabban válaszol politikai kérdésekre, mint a ChatGPT.

A kínai kormányzat az AI-technológiát belföldön is felhasználja az ellenőrzés szigorítására. Az ausztrál kutatók szerint az AI-alapú cenzúra rendszerek gyorsabbá és olcsóbbá tették az információ feletti kontrollt, lehetővé téve a kommunista párt számára, hogy »sokkal átfogóbban és részletesebben« ellenőrizze a tartalmat. Az AI-propagandakampányok különösen hatékonyak, mivel »a széles körű támogatás illúzióját« keltik, amit Peking számára különösen vonzóvá tesz, mivel az Nyugaton »kevés szerves közösségi támogatásban« részesül.