AI-szakértők figyelmeztetnek az ellenőrizhetetlen szuperintelligenciára

Roman Yampolskiy, a louisvillei egyetem kiberbiztonsági laboratóriumának igazgatója szerint az öt vezető AI-laboratórium vezetőit az asztalhoz kellene ültetni egy fejlesztési moratórium megállapodásához. Szerinte a munka csak akkor folytatódhatna, ha bizonyított, hogy az fejlett AI-rendszerek ellenőrizhetők és biztonságosan skálázhatók, független szakértők ellenőrizték az eredményeket, és a lakosság többsége támogatja a folytatást.

A szuperintelligencia legnagyobb veszélyét Yampolskiy nem a gazdasági összeomlásban látja, hanem abban, hogy egy mesterséges intelligencia egy nap eldöntheti, hogy az emberek továbbélhetnek-e. A manipuláció is jelentős szerepet játszhat: a jelenlegi ChatGPT már »tökéletes pszichológusként« működhet, amely egyszerre javíthatja és ronthatja az emberek mentális állapotát.

Tristan Harris, a Google korábbi termékfejlesztője szerint a technológiai milliárdárosok közül sokan nyilvánosan a szuperintelligencia előnyeit hirdetik, miközben bunkereket építtetnek maguknak – nyilvánvaló felkészülés a legrosszabb forgatókönyvre. Harris szerint a technológiai verseny nem erősítené meg az államokat: az USA megelőzte Kínát a közösségi média fejlesztésében, de ezzel »magányos, degradált lakosságot és egy felháborodás-gazdaságot« hozott létre.

Yampolskiy szerint az a tévhit, hogy a felhasználói előfizetések finanszíroznák az AI-fejlesztést. Valójában az óriási befektetői összegek hajtják előre a versenyt az egyre erősebb rendszerekért. A kérdés végül nem csak az, hogy egy szuperintelligencia megkérdőjelezi-e az ember értékét, hanem az is: ki dönti el ma, hogy az ember milyen helyet foglaljon el az egyre jobban automatizált világban.