JPMorgan-vezér: az Anthropic Claude modellje »valódi veszély« a rossz kezekben
Jamie Dimon, a JPMorgan Chase vezetője az Anthropic Claude mesterséges intelligencia modelljét »valódi problémának« nevezte, mivel képessége a szoftver-sebezhetőségek feltárásában olyan erős, hogy nem adható ki a széles nyilvánosságnak.
Jamie Dimon, az Egyesült Államok legnagyobb bankjának vezetője a pennsylvaniai Defense and Innovation Summit-en figyelmeztetett az Anthropic Claude modelljének kockázataira. Dimon szerint, ha egy ilyen erőteljes rendszer rossz kezekbe kerül, az katasztrofális következményekkel járhat. »Claude-dal lényegében ballisztikus rakétákat adunk az egyéneknek« – fogalmazott.
Az Anthropic maga is elismerte, hogy Claude modellje olyan hatékony a szoftver-sebezhetőségek felderítésében, hogy nem lehet szabadon hozzáférhetővé tenni a nyilvánosság számára. A fejlesztő cég ezért korlátozott hozzáférést biztosít kiválasztott szervezeteknek.
A JPMorgan Chase április óta tartozik azon vállalatok közé, amelyek hozzáférhetnek a Claude modellhez. A bank az eszközt saját védelmi rendszereinek tesztelésére és az iparági partnerekkel való tudásmegosztásra használja. Dimon korábban arról számolt be, hogy több száz munkatársa dolgozik teljes munkaidőben a bank rendszereinek megerősítésén.
A hírek szerint az amerikai kormányzat az utóbbi időben komolyan veszi az erőteljes mesterséges intelligencia modellek biztonsági kockázatait. Dimon hangsúlyozta, hogy a szabályozó hatóságok végre felismerték az ilyen technológiák veszélyeit.
Forrás: Handelsblatt — „KI: JP-Morgan-Chef Dimon warnt vor breitem Zugang zu Mythos - Handelsblatt”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.