Anthropic-kutató: az AI-fejlesztők »valóban félnek« az emberiség jövőjétől
Az Anthropic-nál dolgozó Jacob Coxon szerint az AI-technológián dolgozó kutatók »valóban félnek« a fejlesztés sebességétől és annak lehetséges következményeitől. Coxon szerint ha nem lassítanak a jelenlegi ütemben, »erős esély van arra, hogy mindannyian meghaljunk a közeli jövőben«.
A 27 éves Coxon, aki korábban az OpenAI-nál is dolgozott, a BBC-nek adott interjúban támogatta Anthropic vezetője, Dario Amodei szombati javaslatát a fejlesztés lassításáról. Coxon azonban hangsúlyozta, hogy egy ilyen koordinált lassítás Kínával is egyeztetett lenne szükséges. Elmondása szerint az AI-cégek alkalmazottai »teljesen komolyan« kérik a szabályozást, mert »egy versenyfutásban ragadtak, és félnek ennek kimenetelétől«.
Coxon szerint az egyik lehetséges veszély — amely Amodei írásában is szerepel — az internetet átvevő botok rajának kialakulása, amely szuperszámítógépként működne. Coxon szerint ez a forgatókönyv hat hónap és egy év között reálisnak tűnik. Az Anthropic szóvivője válaszul kijelentette, hogy a cég »az iparág legerősebb biztonsági intézkedéseit« alkalmazza, és elsőként publikált keretrendszert a fejlesztésből eredő kockázatok csökkentésére.
Amodei szombati esszéjében három pontból álló tervet javasolt: független felügyelet az AI-modellek fejlesztése során, iparági szintű szabályozás és globális szabályozás. Coxon szerint az AI-cégek munkatársai »két éven belül« érkezhet veszélytől félnek, és néhányan már földet vásárolnak, annyira aggódnak a gyors AI-fejlődésből eredő instabilitás miatt. Az Anthropic tudósa, Evan Hubinger egyetértett Coxonnal, és azt nyilatkozta, hogy szerinte »több mint 10 százalék az esélye annak, hogy az AI megöl minden embert a következő évtizedben«.
Forrás: BBC — „AI staff 'genuinely frightened' for humanity's future, ex-Anthropic researcher tells BBC - BBC”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.