Anthropic: függetlenség vagy összefonódás az AI-felügyeletben?
Az Anthropic vezérigazgatója, Dario Amodei egy nonprofit szervezetet javasol az AI-modellek felügyeletére, ám kritikusok szerint a szervezet vezetői és finanszírozói szoros kapcsolatban állnak az Anthropic-kal, ami felvetné az összeférhetetlenség kérdését.
Amodei egy »We Must Pace the Frontier« című esszében azt javasolta, hogy a vezető AI-cégek engedélyezzék a Model Evaluation and Threat Research (METR) nevű nonprofit szervezet »beágyazott harmadik fél értékelőit«, akik »alkalmazotthoz hasonló hozzáféréssel« felügyelnék a biztonsági erőfeszítéseket. Az Amodei szerint független METR azonban szoros gyökerekkel rendelkezik az Effective Altruism mozgalomhoz, amely az Anthropic alapítójának testvérét is magában foglalja.
A METR vezetői és munkatársai között számos személyes és szervezeti kapcsolat található. Paul Christiano, az Alignment Research Center (ARC) vezetője, amelyből a METR kiváló, az Amodei korábbi házitársa, munkatársa és kutatási kollaborátora volt az OpenAI-nál. Christiano az Anthropic Long-Term Benefit Trust első öt kuratora közé tartozott. A METR munkatársai közül többen az Effective Altruism mozgalomhoz kötődnek, illetve az Oxfordi Egyetem kutatási csoportjaiból érkeztek.
A szervezet finanszírozása szintén összefonódott az Anthropic befektetőivel: Dustin Moskovitz és Jaan Tallinn, mindketten az Anthropic befektetői, jelentős támogatást nyújtottak az ARC-nak és a METR-nek. Tallinn Survival and Flourishing Fund alapítványa 752 ezer dollárt ítélt meg a METR-nek, Moskovitz Coefficient Giving szervezete pedig 1,515 millió dollárt adományozott az ARC-nak 2022-ben. A Trump-adminisztráció szerint »a METR lényegében az Anthropic egy másik formája«, és az AI-felügyelet ezen modellje valószínűleg nem fog támogatást kapni.
Forrás: New York Post — „Meet Anthropic CEO Dario Amodei's handpicked super-woke globalists he thinks will save us from an AI apocalypse - New York Post”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.