Anthropic mérnökei: az AI végezhet velünk
Az Anthropic biztonsági vezetője nyilvánosan megerősítette, hogy a cég mérnökei szerint a mesterséges intelligencia képes lehet az emberiség kiirtására. A vállalat azonban továbbra is egyre erősebb AI-rendszereket fejleszt, miközben az IPO-ra készül.
Jacob Coxon, az Anthropic kutatója nemrég lemondott, azt állítva, hogy a cég és az OpenAI az emberek életével játszanak olyan rendszerek fejlesztésével, amelyek önmagukat képesek fejleszteni. Evan Hubinger, az Alignment Science vezető ezt követően közösségi médiában megerősítette: »Valóban komolyan hiszünk abban, hogy az AI képes lehet az összes ember megölésére«, és személyesen több mint 10 százalékos valószínűséget tulajdonít ennek egy évtizeden belül.
Az Anthropic alapvetően azzal az ígérettel jött létre, hogy az OpenAI-nál biztonságosabban fog működni, ám ezt az elvet fenntartva egyre nagyobb teljesítményű ágenseket épít. A vállalat vezetője, Dario Amodei arról beszélt, hogy cégének »a legfontosabb vállalatnak« kell lennie, hogy »az egész ökoszisztémát magával húzza«, de nem magyarázza meg, miként segít a gyorsabb fejlesztés az emberiség biztonságán. Az Anthropic nem lassít, és nemrég megtagadta egy brit AI-biztonsági ügynökségtől a legújabb modelljéhez való hozzáférést tesztelésre.
A vállalat biztonsági erőfeszítései kevésbé jelentősek, mint ahogy azt ígérte: nem tűnik úgy, hogy lényegesen több embert foglalkoztat ezzel, mint versenytársai. Az Anthropic a 2 billió dolláros értékelésre készülő tervezett nyilvános részvénykibocsátás felé halad, amely erős kereskedelmi nyomást gyakorol a fejlesztés felgyorsítására.
Forrás: CNA — „Commentary: Some Anthropic engineers think AI might end us. Why race ahead? - CNA”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.