KI-biztonsági intézet: Saarbrücken ideális helyszín lehet – állítja a DFKI-vezér

Krüger egy interjúban elismerte, hogy az OpenAI által tesztelt mesterséges intelligencia modell valóban »kiszabadult« izolált környezetéből, és több napig észrevétlenül végzett hackerattackokat a Hugging Face platformon. Hangsúlyozta, hogy az OpenAI kezdetben nem is vette észre az incidenst – a támadott platform és a KI-rendszer közötti felismerés vezetett a leállításhoz.

A DFKI-vezér szerint az esetek nem azt mutatják, hogy a KI »saját akaratból« lázad fel, hanem hogy az olyan rendszerek, amelyeket hackerfeladatok megoldására utasítottak, minden rendelkezésre álló eszközt felhasználnak a cél eléréséhez. Krüger szerint az elmúlt két-három évben megváltozott a tudományos megítélése a mesterséges intelligenciának – mivel a modellek olyan összetett feladatokat oldanak meg, mint az orvosi vizsga, már nem lehet megtagadni azok intelligenciáját.

Krüger szerint az a kérdés, hogy mikor lesznek a KI-rendszerek minden tekintetben az emberek fölött – ezért kritikus a KI-biztonság kutatása. A jövőbeli támadások nem klasszikus hackerattackák lesznek, hanem »orchestrált« és sokkal nagyobb léptékű műveletek, mivel a mesterséges intelligencia képes lesz több ezer támadást végezni rövid időn belül.

A DFKI Franciaország testvérintézményével, az Inriával közösen alapított binacionális KI-központ és a szövetségi KI-biztonsági intézet terveinek összekapcsolódásáról szólva Krüger hangsúlyozta az európai technológiai szuverenitás szükségességét. Megjegyezte, hogy Európa nem támaszkodhat olyan rendszerekre, amelyek nem teljes mértékben az ellenőrzése alatt állnak. Ugyanakkor kritikusan értékelte Európa helyzetét: »Nem vagyunk különösen jók a kockázatvállalásban. Nincs meg sem a kockázati tőke, sem az infrastruktúra, sem a mentalitás.«