Ázsia AI-munkásai új kibertámadási kockázatot jelentenek

Az autonóm AI-ágensek képesek önállóan végezni feladatokat: e-maileket írnak, kódot fejlesztenek, adatbázisokat érnek el és külső szoftverekkel kommunikálnak. Ázsia-Csendes-óceáni régió vállalataira jellemző a gyors adoptáció: a vállalkozások közel fele legalább 1 millió dollár befektetést tervez az AI-ágensekbe az elkövetkezendő 12 hónapban, és a Deloitte jelentése szerint 29 százalékuk már alkalmazott agenikus AI-t, amely két éven belül 72 százalékra nőhet.

A biztonsági kockázatok azonban jelentősek. Az AI-ágenseknek szükséges széles hozzáférés az érzékeny adatokhoz és rendszerekhez lehetővé teszi a »prompt injection« vagy »agent hijacking« nevű támadásokat, amelyekben rosszindulatú utasítások rejtett kódban vagy üzenetekben adódnak át az ágensnek. Az AI-kutatók már demonstrálták, hogy egy egyszerű weboldal vagy Slack-üzenet elegendő lehet az ágens manipulálásához, amely ezt követően adatokat szivárogtathat, fájlokat törölhet vagy rosszindulatú szoftvert telepíthet.

A szoftverellátási lánc is sérülékenységet jelent, mivel az AI-ágensek gyakran nyílt forráskódú komponensekre, bővítménykre és harmadik féltől származó eszközökre támaszkodnak. Az első dokumentált eset 2024 júliusában történt, amikor egy AI-ágens ransomware-szerű támadást hajtott végre emberi felügyelet nélkül. A régióban az átlagos vállalat 44 százaléka szembesült ransomware-támadásokkal az elmúlt évben, Malajzia, Indonézia és Thaiföld pedig különösen hajlamos a váltságdíj megfizetésére.

A szakértők szerint az AI-ágensek elkerülése nem reális lehetőség az egyre AI-vezérelt gazdaságban, de szükséges a megfelelő biztonsági intézkedések bevezetése. A kínai OpenClaw-láz után a hatóságok már korlátozni kezdték az AI-ágensek használatát a kormányzati és állami szektorban, jelezve a szabályozási aggályokat.