Az ENSZ főtitkára: nem hagyhatjuk, hogy a mesterséges intelligencia »vibe-code«-olja jövőnket

Guterres a genfi Globális AI-irányítási Párbeszéd nyitóülésén hangsúlyozta, hogy az AI »száguldó sebességgel« fejlődik, miközben »terv és beleegyezés nélkül kísérleteznek saját társadalmainkon«. Az ENSZ-vezető szerint az AI-rendszerek már nem parancsra váró eszközök, hanem kódot írnak, online működnek és egyre kevesebb emberi felügyelet mellett hoznak döntéseket. Kitért arra, hogy az intézmények olyan gépek irányítására voltak felépítve, amelyek parancsokat követnek, nem pedig olyan gépekre, amelyek döntéseket hoznak.

Guterres szerint az úgynevezett »vibe-coding« – amikor az AI-nak szóban közöljük, mit szeretnénk, ahelyett, hogy kódot írnánk – hasznos lehet, de »nem lehet vibe-code-olni az igazságot, és nem lehet vibe-code-olni az emberiség jövőjét«. Aggodalmára adott okot az AI-technológia által okozott információs zavar, valamint az a tendencia, hogy fontos feladatokat az algoritmusokra bízunk és vakon megbízunk az eredményekben.

A főtitkár kiemelte az AI-erő koncentrációjának veszélyét néhány vállalat és ország kezében, és hangsúlyozta, hogy a legtöbb ország nem szavazott azokról a döntésekről, amelyek meghatározzák jövőjüket. Felhívta a figyelmet arra, hogy az AI már elérte a gyerekeket – tanulásuk, barátságaik, legprivátabb kérdéseik terén – anélkül, hogy bárki megvizsgálta volna hatásait. Guterres AI-gyermekvédelmi ügyet javasolt, amely kötelezné a vállalatokat bizonyítani, hogy a gyerekek számára elérhető rendszerek biztonságosak.

A főtitkár további prioritásokként említette az AI-kapacitás növelését a fejlődő országokban, az AI klímavédelmi hatásának csökkentését, valamint a halálos autonóm fegyverrendszerek nemzetközi jogi tilalmát. Guterres szerint »lehet, hogy az utolsó generáció vagyunk, amely képes meghatározni az emberiség és a gépek együttélésének feltételeit«.