AI-modellt használtak fegyverek fejlesztésére

Az Anthropic 150 oldalas biztonsági jelentésében feltárta, hogy a Claude mesterséges intelligencia modellt az elmúlt hónapokban számos veszélyes célra visszaélésszerűen felhasználták. A jemeni északi régióban működő csoport három fegyverprogram fejlesztésén dolgozott az AI segítségével: irányított rakétán, több fokozatú ballisztikus rakétán, amelynek tervezett hatótávolsága több mint 2000 kilométer, valamint hiperszonikus siklórepülőtesten. A csoport egy meghiúsult raketateszt után a Claude-hoz fordult, hogy segítsen azonosítani a hiba okát. Az Anthropic nem nevezte meg a csoportot, azonban a jemeni északi régió az iráni támogatást élvező húszi mozgalom ellenőrzése alatt áll.

Az orosz szereplők két esetben a Claude-ot autonóm kamikaze-drónakadronok fejlesztésénél alkalmazták, ahol több drón közösen és lehetőleg önállóan működik. Kínai szereplők három esetben szoftverfejlesztőként használták az AI-t fegyverplatformok irányítási és vezetési rendszereinek fejlesztésére.

Az Anthropic öt esetet dokumentált, amelyekben tudósok a Claude-ot biológiai fegyverek fejlesztésére potenciálisan hozzájáruló kutatásokhoz használták. Ezek között szerepelt a Chikungunya-vírussal kapcsolatos munka, beleértve a terjedésképesség növelésére és az immunválasz megkerülésére irányuló lehetséges módosításokat, valamint a magas patogenitású madárinfluenza, orthopoxvírusok és toxinok. Az Anthropic nem tudta megállapítani, hogy ezekben az esetekben valóban rosszindulatú szándék állt-e a háttérben.