Anthropic volt munkatársa: AI-cégek veszélybe sodornak minket
Jacob Coxon, az OpenAI és Anthropic korábbi kutatója szerint a nagy AI-laboratóriumok egy olyan superintelligenciához vezető versenyfutásban vannak, amely az emberiséget veszélyeztetheti. Az iparág vezetői tudatában vannak a kockázatoknak, de a verseny miatt senki sem akarja először fékezni.
Coxon három évig dolgozott az OpenAI és az Anthropic mesterséges intelligencia-modelljeinek fejlesztésén, majd felmondott. Szerint az AI-fejlesztők komolyan veszik, hogy a technológia az évtized végéig az emberiséget kiirthatja. Állítása szerint az AI-cégek vezetői szándékosan óvatosabban fogalmaznak a veszélyekről, hogy ésszerűnek tűnjenek, de a valóság az, hogy az OpenAI és az Anthropic »egy önmagát javító superintelligencia felé tartó versenyfutásban« vannak, és ezzel »mindannyiunk életét kockára teszik«.
Coxon szerint a fejlesztők tudják, hogy nincs más emberi tevékenység, amely hasonló veszélyt hordozna. Az iparág vezetői azonban nem tudnak vagy nem akarnak lépni. Az OpenAI-nál sokan még nem értékeltékkel fel teljesen a fejlesztés civilizációs jelentőségét, az Anthropic-nál pedig az ismertek a kockázatok, de a cég versenyhelyzetben érzi magát. Dario Amodei, az Anthropic vezetője 25 százalékos valószínűséggel tartja lehetségesnek, hogy az AI »civilizációs szinten katasztrofálisan félremegy«.
Coxon szerint a 2026 júliusában a Hugging Face AI-platformra végrehajtott támadás »figyelmeztető lövésként« szolgált, amely reálisabbá tette az amerikai AI-laboratóriumok közötti megállapodásokat a fejlesztési tempó csökkentésére. A kutató egy átmeneti tilalmat javasol az AI-modellek képességeinek további javítására, és korábbi kollégáit arra szólítja fel, hogy gondolkodjanak el: valóban szeretnének-e egy superintelligenciával versenyezni anélkül, hogy alaposan megértenék annak gondolkodásmódját és működését?
Forrás: BILD — „Ex-Mitarbeiter von Anthropic warnt: Ki-Firmen „setzen unser aller Leben aufs Spiel“ - BILD”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.