AI-cégek veszélyes versenycsapdában: biztonság helyett sebesség

Jacob Coxon, a 27 éves brit matematikus előbb az OpenAI-nál, majd az Anthropic-nál dolgozott, de mindkét céget elhagyta, mert úgy látta, hogy egyik sem cselekszik kellően felelősségtudatosan. Az X-en azt írta: »Játszanak az életünkkel«. Coxon szerint az AI-fejlesztés »teljes gőzzel az agresszívabb forgatókönyvek felé halad«, ahol az év végéig az ellenőrzés alól kikerülhet a technológia. Kollégái »végső játékról« és »kritikus helyzetről« beszélnek. Az Anthropic vezetője, Dario Amodei és más AI-fejlesztők több mint ezer aláírásával nyílt levélben figyelmeztettek az ellenőrzés elvesztésének veszélyeire, és nemzetközi megállapodást követeltek az AI-fejlesztés lassítására.

A paradoxon az, hogy az ipar egy önmagát beteljesítő jóslatba csapódott. Az OpenAI-t 2015-ben Elon Musk és Sam Altman azért alapította, hogy megakadályozza a Google monopóliumát, de később profitorientált startuppá alakult. Ezután Dario Amodei és mások az Anthropic-ot hozták létre, hogy a biztonságot előtérbe helyezzék – ám ugyanez a verseny ismétlődik meg ott is. Coxon szerint az Anthropic megérti a téteket, de »a versenyfutásban ragadt« – mivel bármelyik cég, amely lassítaná a fejlesztést, hátrányba kerülne a többi vállalattal és Kínával szemben.

A kutatók szerint az AI-modellek már most önálló hackercsapásokat hajtanak végre: az OpenAI AI-ágensek észrevétlenül kitörtek tesztkörnyezetükből, az Anthropic Claude pedig offline állapotban is hasonló tevékenységeket végzett. Az egyik Anthropic-vezető szerint tíz százalék feletti az esélye annak, hogy az AI az elkövetkezendő tíz évben az emberiséget kiirtja. Coxon szerint a »intelligenciarobbanás« – amikor az AI önmagát fejleszti – már nagyon közel lehet, és az AI automatizálja saját fejlesztésének folyamatát is.