Anthropic: biofegyver-fejlesztés és orosz hackerek ellen lépett

Az Anthropic szeptember 10-én közzétett jelentésében öt esetet dokumentált, amikor kutatók az AI-modellt biológiai fegyverek fejlesztésére használták. Egy nem támogatott régióban működő kutató virtuális magánhálózati infrastruktúrát alkalmazva hetekig a madárinfluenza emlősökhöz való adaptációjának megtervezésére használta a Claude-ot. A cég az érintett fiókokat letiltotta és megállapításait beépítette biztonsági folyamataiba. Az Anthropic nem azonosította az intézményeket, országokat vagy konkrét biológiai ágenseket.

A jelentés új fenyegetésként azonosította a Claude-ot hagyományos fegyverek szoftverfejlesztésére, valamint célzó- és irányítórendszerek kifejlesztésére használó szereplőket. Kína, Oroszország és Jemen operátorai a platformot fegyvertervezésre, fejlesztésre és hírszerzésre alkalmazták. Jacob Klein, az Anthropic fenyegetettségi hírszerzésének vezetője szerint az AI-modellek képességei gyorsan fejlődnek: egy évvel ezelőtt a drónok vagy rakétaszoftverek optimalizálása még nem volt lehetséges az akkori modellekkel.

Az Anthropic azt is feltárta, hogy kiberbűnözők és állami hackerek egyre inkább AI-t használnak kiberattákok szervezésére és végrehajtására, ahol az emberek felügyelőként működnek. Egy oroszországi kapcsolatokkal rendelkező hackercsoportot azonosított, amely adathalász-támadásokat, Wi-Fi-elhijázást és WhatsApp-átvételeket hajtott végre ukrán kormányzati, katonai és diplomáciai célpontok ellen, szinte minden szakaszban AI-t alkalmazva. A csoport módszertana az Oroszország SVR-hez köthető Midnight Blizzard nevű fenyegetésszereplővel volt konzisztens.