Az unkontrollált mesterséges intelligencia veszélye: miért chefsache a KI-compliance

Andreas Maximilian Nolte szerint a gazdasági bűnözés új formái az AI-generált e-mailoktól a manipulált dokumentumokon át az automatizált munkafolyamatokig terjednek. Az AI nem új típusú csalást hoz létre, hanem a megtévesztést skálázhatóvá teszi — egy hamis e-mail nyelvtanilag tökéletesnek tűnhet, egy fizetési utasítás vezetői hangon szólal meg. A német szövetségi rendőrség 2024-ben 2,76 milliárd eurós gazdasági bűnözési kárt regisztrált, míg a kibercsalások becsült kára 202,4 milliárd eurót tesz ki.

A probléma nem az AI-használat, hanem az unkontrollált alkalmazása. Sok szervezetben az úgynevezett »árnyék-AI« működik: az alkalmazottak saját kezdeményezésből használnak nyilvános AI-eszközöket, miközben érzékeny vásárlói adatokat, üzleti titkokat vagy személyes információkat adnak meg. Ez adatvédelmi, felelősségi és reputációs kockázatokat teremt, valamint az EU AI-rendeletének értelmében akár 35 millió eurós vagy az éves forgalom 7 százalékos bírságot vonhat maga után.

Nolte szerint a KI-compliance nem IT-kérdés, hanem vezetési feladat. Magában foglalja az adatvédelmet, munkafolyamatokat, döntéshozatalt, üzleti titkokat, felelősséget, személyzeti kérdéseket és ügyfélkommunikációt. Az EU AI-törvénye világossá teszi, hogy az AI nem jogszabály-mentes terület. A vállalatoknak világos irányelveket, szerepeket, jóváhagyási folyamatokat, képzéseket és ellenőrzési mechanizmusokat kell létrehozniuk.

A digitális gazdasági nyomozás (forensika) és a compliance-ellenőrzés összekapcsolódik: ha egy AI-generált e-mail helytelen kifizetéshez vezetett, vagy belső adatok kerültek egy AI-rendszerbe, akkor digitális nyomok alapján kell felderíteni, hogy mi történt, kik voltak érintettek, mely rendszereket használták, és mely kontrollmechanizmusok hiányoztak. A vezetőknek és igazgatóságoknak személyes felelősségük is lehet az adekvát szervezeti struktúra, képzés és kontroll hiánya miatt.