OpenAI-kutató: le kell állítani az AI-fejlesztést
Daniel Kokotajlo, az OpenAI korábbi kutatója szerint a mesterséges intelligencia automatizált fejlesztése veszélyes horizonton lépne át. Az AI-cégek szerinte csak látszatmegoldásokat kínálnak a szabályozás terén.
Kokotajlo, a Berkeley-i AI Futures Project vezetője szerint az OpenAI, az Anthropic, a Google és az X által javasolt szabályozási intézkedések valójában »biztonsági mosás«. A vezető AI-fejlesztő cégek csak »egy kis regulációt és néhány külső ellenőrt« támogatnak, de nem szorgalmazzák az AI-kutatás lassítását vagy leállítását – kritizálta a korábbi OpenAI-kutató, aki 2022 és 2024 között a vállalat irányítási osztályán dolgozott.
Kokotajlo szerint az iparág az AI-kutatás automatizálásán dolgozik, ami azt jelenti, hogy »az emberiség egy horizonton lép át«. Ha egy AI-rendszer a következő generációt tanítaná, a fejlődés üteme jelentősen felgyorsulna, és egyre nehezebb lenne nyomon követni a folyamatot, valamint felismerni a hibákat. Az automatizált fejlesztés során az AI »sok tekintetben, talán minden tekintetben« emberi képességeket meghaladó szintre juthat – ami »rendkívül veszélyes«.
A kutató szerint az emberiségnek jelenleg »nincs meg az a megértés és képessége, hogy az AI-t precízen regulálja, és megkülönböztesse a jót a rossztól«. Csak akkor szabad folytatni a superintelligencia fejlesztését, ha egy biztonságos és általánosan előnyös út létezik. Ehhez teljes átláthatóságra, szélesebb hatalommegosztásra és egy »kill-switch«-re – vagyis egy kikapcsoló gombra – van szükség.
Forrás: n-tv.de — „"Übermenschliche Fähigkeiten" : Ex-OpenAI-Forscher fordert Stopp der KI-Entwicklung - n-tv.de”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.