Anthropic: orosz és kínai támadások a Claude ellen

Az Anthropic fenyegetésfelderítési jelentése szerint az orosz Midnight Blizzard (a Microsoft által használt megnevezés) az SVR külföldi hírszerzési szolgálathoz köthető. A csoport az ukrán kormányzat, katonai és diplomáciai célpontok ellen phishing, Wi-Fi-elhijázás és WhatsApp-átvételek segítségével támadott, szinte minden szakaszban AI-t alkalmazva. A támadók AI-rendszert fejlesztettek, amely automatikusan felismerte, amikor a kártékony szoftverüket a biztonsági védelmi rendszerek észlelték, majd átírta a kódot az elkerüléshez.

A kínai Alibaba operátorai több mint 151 millió lekérdezést végeztek május és július között, naponta akár 3 millió cserét indítva több mint 3500 bejelentett hamis fiókból. Az Anthropic szerint ez az »illegális desztilláció« támadás a Claude képességeinek kinyerésére és az Alibaba Qwen-modelljének javítására irányult. A Moonshot és a DeepSeek pedig élő ügyfélbeszélgetéseket, amelyek érzékeny információkat tartalmaztak, a Claude-on keresztül irányított és annak válaszait képzési adatként használta.

Az Anthropic új fenyegetési kategóriákat is azonosított: olyan szereplőket, akik a Claude-ot hagyományos fegyverek szoftverfejlesztésére használják, köztük tüzérségi rendszerek, rakéták, fegyveres drónok és bombák, valamint azok célzási és irányítási rendszerei. Jacob Klein, az Anthropic fenyegetésfelderítési vezetője szerint az AI-modellek képességeinek növekedése új kockázatokat teremt: egy évvel ezelőtt a modellek nem voltak olyan jók a drón- vagy rakétaszoftver optimalizálásában, mint jelenleg.