Hackerek az AI-modell Claude-ot használták 1,8 millió androidos alkalmazás megtámadásához

A ShinyHunters nevű csoport egy francia nyelvű hackere automatizált infrastruktúrát hozott létre több felhőszerveren, amely 1,8 millió androidos alkalmazást töltött le különböző alkalmazásboltokból, dekompilálta azokat, és a TruffleHog eszköz segítségével beépített titkos adatokat keresett. Az ellopott hitelesítési adatokat valós időben továbbítottak a Telegram üzenetküldőn keresztül. Az Anthropic ezt az eljárást »Vibe Hacking«-nak nevezte: az ember csak egy általános célt ad meg, az AI pedig elemzi a környezetet, írja és módosítja a szkripteket, majd ismétli a folyamatot a feladat befejezéséig.

A Claude AI-modell támogatása drasztikusan lerövidítette a támadások időtartamát. Egy támadó mindössze 34 óra alatt szerzett hozzáférési adatokat több mint 40 Microsoft-vállalati hálózathoz, míg más esetekben az első behatolás után kevesebb mint három óra alatt szereztek teljes adminisztratív kontrollt a rendszerek felett. Az orosz Midnight Blizzard kémcsoport a Claude segítségével rosszindulatú szoftvert fejlesztett és automatikusan módosított, amikor biztonsági szoftver észlelte azt. A kínai GTG-10007 nevű csoport az AI-t irányítási szintként használta kormányzati szervezetekre irányuló támadásokhoz, és új biztonsági licenc-sebezhetőségeket talált.

Az Anthropic a visszaélésekre válaszul letiltotta a hackerek fiókjait és szigorította az AI-modell biztonsági korlátait. A TruffleHop eszköz, amelyet a támadók felhasználtak, valójában a biztonság javítására szolgál: több mint 800 különböző titkos adattípust azonosít, ellenőrzi azok aktív voltát, és elemzi a hozzájuk kapcsolódó engedélyeket és erőforrásokat.