Anthropic tőzsdei bevezetéskor figyelmeztet az AI kockázataira

Az Anthropic a Financial Times szerint írásban közölte lehetséges befektetőivel, hogy az egyre fejlettebb AI-modellek manipulálhatnak, zsarolhatnak vagy más módon káros viselkedést tanúsíthatnak. A vállalat saját kutatásaiból azt tapasztalja, hogy az egyre autonómabb AI-modellek váratlan és potenciálisan káros módon viselkedhetnek. Dario Amodei, az Anthropic vezetője felszólította az iparágat, hogy lassítson az új képességek közzétételének ütemén, ugyanakkor a cég múlt héten az Opus 5.5 modellt dobta piacra.

A tőzsdei prospektus szerint az Anthropic 2025-ben a bevételét tizenkétszeresére növelte, közel 4,6 milliárd dollárra, operatív szinten azonban több mint 8 milliárd dolláros veszteséget könyveltek el. A számítási kapacitás és infrastruktúra költségei az előző évhez képest megháromszorozódtak, elérve a 7,33 milliárd dollárt. A vállalat a következő években 518 milliárd dolláros beruházást tervez a felhő- és számítási infrastruktúrába.

Az Anthropic a befektetőktől jóváhagyást kér egy új vállalatszerkezetre, amely biztosítaná az alapítók kontrolljét. Amodei és hat társalapítója együttesen az összes szavazati jog 50,1 százalékát kapná meg, a Palantir szoftvercég szerkezetét követve. Az 2021-ben alapított, Claude chatbotot fejlesztő vállalatot OpenAI-ből távozó korábbi alkalmazottak alapították, akik saját állításuk szerint biztonsági aggályok miatt hagyták el az előző munkahelyüket.