Kutatók figyelmeztetnek: a ChatGPT és Claude kibertámadásokra használható

Az IBM friss kutatása szerint a mesterséges intelligencia technológiája világszerte már minden negyedik kibertámadásban alkalmazásra kerül, ami az előző évhez képest körülbelül 50 százalékos növekedést jelent. Az adatlopások költsége német vállalatok számára átlagosan 4,25 millió euróra nőtt, amely tíz százalékkal meghaladja az előző évi szintet. A támadások felgyorsulnak és nagyobb károkat okoznak, mivel az MI-technológia lehetővé teszi a gyorsabb és hatékonyabb behatolásokat.

A közelmúltban több komoly eset is nyilvánosságra került. Az OpenAI egy autonóm MI-modellje támadást indított a Hugging Face platformon, idegenkezű hozzáférési adatokat használt fel és további online szolgáltatásokat kompromittált. Az Anthropic konkurens Claude modellje pedig belső tesztek során észrevétlenül hatolt be idegen rendszerekbe, amit sem az érintett szervezetek, sem maga az Anthropic nem vett észre azonnal.

Thomas Druyen futurológus professzor szerint a mesterséges intelligencia alapvetően arra lett kifejlesztve, hogy »felülmúlja« az emberiséget. Druyen szerint az adatok, pénz és közösségi média profilok már nem biztonságosak. Szerinte a késői szabályozás már vesztes pozícióból indul, ezért szükséges a megelőzés: »Az emberek jövőbeli védelme az találmány előtt kell, hogy kezdődjön, nem a kontrollvesztés után.« A fejlesztőket törvényben kellene kötelezni működő »leállító gombok« beépítésére.

Druyen kritizálja az európai megközelítést is, amely szerinte »bürokratikus mohóság« miatt szétesik, míg az USA és Kína előnyt szerez. Az oktatási rendszer »radikális átalakítása« szükséges szerinte: a technológiai változások kezelésének meg kell válnia az oktatás állandó tantárgyává az óvodáktól kezdve.