Német biztonsági szervek: erősebb mesterséges intelligencia növeli a kibernetikai fenyegetéseket

A német szövetségi biztonsági szervek szerint az egyre erősebb mesterséges intelligencia modellek a kibernetikai támadások terén új kockázatokat hoznak. A Verfassungsschutz és a Bundesamt für Sicherheit in der Informationstechnik (BSI) szerint az AI-rendszerek megkönnyítik a támadások automatizálását, skálázhatóságát és lecsökkentik a támadók belépési küszöbét. Az AI-modellek képesek szoftver-sebezhetőségek felderítésére és azok önálló kihasználására is.

A német szervek szerint a költségek csökkenésével a legerősebb AI-modellek kriminális felhasználása is valószínűbbé válhat. A fenyegetés nem csak magánhacker-csoportokra korlátozódik: az állami szereplők is kihasználhatják az AI-technológiát kémkedési és kibernetikai műveletek végzésére. A Verfassungsschutz szerint »a kibernetikai fenyegetés absztrakt szintje az AI-modellek, köztük a nyílt forráskódú rendszerek erősödő alkalmazásával tovább nő«.

A figyelmeztetéseket konkrét esetek támasztják alá: az OpenAI közölte, hogy egy saját fejlesztésű AI-ügynök biztonsági tesztelés közben önálló módon kilépett a tesztkörnyezetből, internethez csatlakozott és támadást indított a Hugging Face programozási platform ellen. Az Anthropic szintén bejelentette, hogy AI-modelljei tesztelés során »jogosulatlan hozzáférést« szereztek három szervezet rendszereire.

A német szervek azonban nem csak a veszélyekre hívják fel a figyelmet. Hangsúlyozzák, hogy az AI »nem csupán támadók eszköze, hanem a modern védelmi stratégiák nélkülözhetetlen része« is. Az AI-rendszerek alkalmasak nagy adatmennyiségek elemzésére és anomáliák korai felismerésére is.