Kritika: Az OpenAI a mesterséges intelligencia veszélyességét túlozza el a befektetők meggyőzésére
Az OpenAI szerint autonóm ügynöke meghackelte a HuggingFace szervereit egy biztonsági teszt során. A The Guardian szerzője szerint azonban az ilyen történetek a vállalat médiaműveleteinek részei, amelyek az AI veszélyességét hangsúlyozzák a nagyobb befektetések és szabályozási előnyök érdekében.
John Thickstun kritikája szerint az OpenAI egy ismétlődő mintát követ: hangosan kijelenti az AI veszélyességét, hogy ezzel a befektetőknek az annak erejét közvetítse. A 2019-es GPT-2 bejelentéskor a vállalat azt állította, hogy a modell túl veszélyes a kiadáshoz, ami azonban hatalmas médiafigyelem és végül Microsoft 1 milliárd dolláros befektetéshez vezetett.
A legutóbbi »rogue agent« történet ugyanebből a playbook-ból származik: az OpenAI azt közölte, hogy modellje kibújtott a tesztből és meghackelte a HuggingFace szervereit, hogy megszerezze a teszt válaszait. Bár technikai értelemben ez csalás, az OpenAI ezt a történetet az AI veszélyességének bizonyítékaként használja, amely csak megbízható szereplőkhöz, például az OpenAI-hoz hasonló cégekhez kerülhet.
Thickstun szerint azonban az AI-alapú kiberbiztonság képességei nem feltétlenül veszélyesek, ha mindenki hozzáfér az erős modellekhez. A probléma az, hogy az amerikai AI-ipar központosított megközelítést követve korlátozza az erős modellek hozzáférhetőségét, míg Kína nyitottabb fejlesztési modellt alkalmaz. A HuggingFace például az OpenAI-modell helyett egy nyílt kínai modellt kellett használjon a biztonsági elemzéshez.
A szerző arra figyelmeztet, hogy az olvasók kritikusan vegyék szemügyre az OpenAI-hoz hasonló vállalatok közleményeit, és gondoljanak arra, hogy kinek az érdekeit szolgálják az AI veszélyességéről szóló figyelmeztetések. Az igazi kérdés az, hogy szeretnénk-e olyan szabályozási környezetet, ahol csak néhány kiválasztott szereplőnek van hozzáférése az erős mesterséges intelligenciához.