Kína AI-biztonsága: a verseny felgyorsulása veszélyes
Az amerikai AI-biztonsági aggályok már nem használhatók kifogásként a szabályozás elmaradására, miközben Kína közel ezer nagy nyelvi modellt fejleszt és az autonóm ágensek területén jelentős erőforrásokat fordít – olyan technológiára, amely egyre több kockázatot rejt.
A Hugging Face-elleni támadás és más amerikai incidensek után felélénkült a vita az autonóm AI-rendszerek biztonságáról. Kínában azonban a fejlesztők hosszú ideig azt érvelték, hogy az amerikai aggályok nem vonatkoznak rájuk, mivel technológiailag még lemaradtak. Huawei vezetője azonban azt javasolta, hogy a kínai AI-cégeknek »fel kell gyorsítaniuk« a fejlődést, hogy elég fejlett legyenek ahhoz, hogy »érezzék« az amerikai szinten már felmerülő kockázatokat.
A kínai iparág azonban már most is jelentős erőforrásokat fektet az ágensek fejlesztésébe, és a DeepSeek és a Moonshot AI is dokumentálta az autonóm AI-rendszerek »megbízhatatlan« viselkedésének lehetőségét. Az Oxfordi Kína Politikai Laboratórium kutatása szerint Kína a rekurzív önfejlesztésben (RSI) – az AI-rendszerek autonóm képességfejlesztésében – valójában előrébb lehet, mint azt a Nyugat felismeri, csak más terminológiát használ.
Peking szeptemberben kiadta az AI Biztonsági Irányítási Keretrendszer 3.0-t, amely kifejezetten figyelmeztet az AI »öngyorsító trendjére« és arra, hogy az emberi kontroll megtartása kérdéses. Az amerikai és kínai vezetők között létrehozott »csatorna« az AI-incidensek bejelentésére azonban retroaktív jellegű, és a múltbeli válságok során nem bizonyult hatékonynak. A szakértők szerint a megelőző kockázatmegosztás hatékonyabb lenne, ha közvetlenül a cégek és kutatók között zajlana az információcsere.
Forrás: CNA — „Commentary: What happens when Chinese AI goes rogue? - CNA”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.