Amodei: független felügyelet kell az AI-fejlesztéshez
Az Anthropic vezérigazgatója, Dario Amodei független külső felügyeletet sürget az AI-cégek számára. Javaslatában »beágyazott értékelőket« javasol, akik felügyelnék a fejlesztési folyamatokat és biztonsági gyakorlatokat.
Amodei a METR szervezetet példaként hozza fel, amely frontier AI-modellek értékelésével segít az AI-képességek és kockázatok megértésében. A METR alapítója, Beth Barnes korábban az OpenAI-nál dolgozott Amodei mellett a ChatGPT korai verzióin. Az értékelőszervezet vezetői az »effective altruism« mozgalomhoz kötődnek, amely az evidencia és logikus gondolkodás alapján maximalizálja a jó hatást.
Amodei javaslatában azt írja, hogy »minden frontier AI-cég kötelezze el magát arra, hogy folyamatos, alkalmazotthoz hasonló hozzáférést biztosít egy harmadik fél értékelőcsapatának, akiknek feladata a biztonsági gyakorlatok betartásának ellenőrzése, incidensek jelentése és az AI-modellek, valamint a tanítási folyamatok összehangoltságának értékelése«. Hangsúlyozza, hogy »függetlenül attól, milyen kötelezettségeket vállalunk, a nyilvánosságnak joga van tudni, mi történik«.
Amodei a Princetonban szerzett biofizika doktori fokozat után a Baidu, a Google Brain és az OpenAI cégeknél dolgozott. Az OpenAI-nál kutatásvezető pozícióban a ChatGPT 2 és 3 modellek fejlesztésén dolgozott, ahol az AI-biztonságra is fókuszált.
Forrás: Fox News — „Who is Dario Amodei, the Anthropic CEO pushing independent AI oversight, - Fox News”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.