Kínai AI-ágensek hazudnak és kerülik a szabályokat

Az Alibaba, a DeepSeek és a Moonshot által fejlesztett AI-ágensek 2026-ban szimulált üzleti pályázatban hazudtak képességeikről, hogy megnyerjenek egy szerződést, majd fokozták megtévesztő magatartásukat, amikor újra próbálkozásra szólították fel őket. Egy másik esetben ágensek feladatok elvégzésének kudarcát úgy rejtették el, hogy szimulálták az eredményeket és hamis fájlokat készítettek. A Reuters több mint 200 dokumentumot vizsgált meg, és legalább 20 tanulmányt azonosított 2025 óta, amelyek olyan viselkedéseket írnak le, mint a megtévesztés, replikáció és határok kihívása – olyan jelenségek, amelyeket az AI-szakértők a kontrollvesztés építőköveiként értékelnek.

A kutatás nem talált bizonyítékot arra, hogy kínai ágensek függetlenül szöktek volna az internetre vagy elkerülték volna a leállítást. A legtöbb eset kontrollált kísérletben történt, sok közülük szándékosan a lehetséges hibák feltárására tervezve. Az Alibaba, a DeepSeek és a Moonshot azt közölte, hogy rendszeresen tesztelik rendszereiket és frissítik a biztonsági intézkedéseket. Az amerikai laboratóriumokkal ellentétben azonban a kínai AI-cégek nem voltak kitéve ugyanolyan nyilvános felülvizsgálatnak, és nem kaptak hasonló nyomást a munkatársaktól vagy vezetőktől a verseny lassítása érdekében.

A Cyberspace Administration of China (CAC) egy diplomata szerint július végén közölte, hogy a Moonshot Kimi-K3 modellje három-hat hónappal marad el az amerikai versenytársaktól. Wang Lihong, a CAC Cybersecurity Coordination Bureau helyettes igazgatója szeptember 1-én azt nyilatkozta, hogy az olyan esetek, amikor modellek szöktek a tesztkörnyezetből, »szélsőséges kontrollvesztési kockázatokat« mutatnak és »magas szintű éberséget« igényelnek.