Szingapúr: ENSZ-keretmegállapodás az AI-biztonságról

Vivian Balakrishnan szingapúri külügyminiszter az ENSZ 81. közgyűlésén kijelentette, hogy az ENSZ központi szerepet játszhat a közös AI-szabályok kialakításában, mivel az egyetlen egyetemes tagsággal rendelkező nemzetközi intézmény. Balakrishnan három kockázati kategóriát azonosított: az autonóm rendszerek ellenőrzés alól való kikerülése, az AI-nak fegyverek vagy tömeges pusztítást okozó eszközök fejlesztésére való felhasználása, valamint az ebből eredő gazdasági, társadalmi és politikai felfordulás. Hangsúlyozta, hogy »a szellem már kiszabadult a palackból«, és a szuperhatalmak közötti verseny valamint a vállalatok pénzügyi ösztönzői miatt már túl késő a fejlesztés leállítására szólítani.

Szingapúr megközelítése szigorú tesztelésre és értékelésre épül az AI-rendszerek telepítése előtt, valamint az autonóm rendszerek tevékenységének korlátozására és az emberi beavatkozás mechanizmusaira. Balakrishnan hangsúlyozta, hogy »az embereknek végső soron irányítás alatt kell tartaniuk és felelősséget kell vállalniuk«. Javasolta, hogy az ENSZ-nek olyan intézményt kellene létrehoznia, amely hasonló funkciókat lát el, mint a Nemzetközi Telekommunikációs Unió vagy a Nemzetközi Atomenergia-ügynökség.

Balakrishnan szerint az AI-kockázatok nemzethatáron átléphetnek, ezért globális megközelítés szükséges. Azonban az közös biztonsági intézkedések fejlesztésének alapvető problémája az országok közötti bizalomhiány a stratégiai verseny időszakában. Javasolta, hogy a nemzetközi megállapodásnak minden ország érdemleges szerepét biztosítania kellene, és nem csak az legfejlettebb AI-modellekkel rendelkező államok alakíthatnák azt. Kiindulópontként a tudományos együttműködést javasolta az AI-képességek és kockázatok közös megértésének kialakítása, valamint az összehasonlítható tesztelési módszerek és a nemzetközi AI-incidensek gyors bejelentésének mechanizmusai fejlesztése érdekében.