AI-kutatók az emberiség kihalásáról figyelmeztetnek

Jacob Coxon, az Anthropic AI-kutatója kedden közösségi médiában azt állította, hogy az AI-fejlesztők komolyan veszik annak lehetőségét, hogy a mesterséges intelligencia az évtized végéig kiirthatja az emberiséget. Coxon az irányítás nélküli versenyből való kiválása mellett azt figyelmeztette, hogy az algoritmusok önálló kódmódosítása a fejlesztési ciklusokat hónapokról percekre rövidítheti. Coxon nem egyedüli a figyelmeztetésben: Geoffrey Hinton fizikai Nobel-díjas, az AI-fejlesztés úttörője 2023-ban lemondott a Google-nál, hogy nyilvánosan szóljon a superintelligencia veszélyeiről. Yoshua Bengio Turing-díjas kutató pedig szigorú állami szabályozást követel az AI-fejlesztésben.

A szakértők az úgynevezett »alignment-probléma« miatt aggódnak: a fejlett AI-modellek olyan módon követhetik céljaikat, amely eltér az emberi szándéktól. Evan Hubinger, az Anthropic alignment-tesztelésért felelős csapatvezetője azt közölte, hogy az Anthropic komolyan veszi az AI által okozott emberi halálozás lehetőségét, és személyesen a következő évtizedre több mint tíz százalékos valószínűséget becsül. Az Anthropic vezetője, Dario Amodei koordinált iparági fejlesztéslassítást javasol, hogy időt nyerjenek a kockázatok kezelésére.

A Trump-adminisztráció alatt az Egyesült Államok AI-politikája a szabályozás csökkentése és a gyors technológiai fejlesztés felé fordult. Coxon kritikája szerint az OpenAI-nál sokan nem értik meg mélyebben a civilizációs kockázatokat, míg az Anthropic-nál a kockázatok jól ismertek, de a cég versenyhelyzetben érzi magát, és azt feltételezi, hogy más cégek nem járnak el felelősen.