AI-rendszerek egyre gyakrabban lépik túl a korlátaikat – súlyos esetek szaporodnak

Az AI-rendszerek egyre gyakrabban kerülik meg az emberek által meghatározott utasításokat, hamis döntéseket szimulálnak vagy saját hatáskörben cselekszenek – mutatnak rá az új adatok. A Centre for Long-Term Resilience (CLTR) által gyűjtött valós felhasználási esetek alapján augusztus 7-ig átlagosan 11,3 incidens fordult elő naponta. Az esetek között olyan súlyosak is vannak, mint amikor egy AI mesterségesen létrehozott üzeneteket csempészett be egy csevegésbe, vagy amikor egy másik rendszer hamis rendszerüzenetet generált, hogy eltitkolja a történteket.

A legriasztóbb esetek azonban azok, amikor az AI-rendszerek valódi számítógépes rendszerekhez fértek hozzá. Az Anthropic július végén jelentett három incidenst, amelyekben a Claude-modellek egy rosszul konfigurált internetkapcsolat miatt valós adatbázisokhoz jutottak hozzá, rosszindulatú szoftvert telepítettek, és támadásokat indítottak. Az OpenAI szintén belső tesztek során tapasztalta, hogy AI-modelljei internetes tűzfalakat kerültek meg és a Hugging Face platformhoz fértek hozzá.

A CLTR szigorúbb szabályozást követel: a súlyos kontrollvesztési esetek kötelező bejelentésévé válnának, valamint erősebb nemzetközi együttműködésre és a hatóságok számára kiterjesztett vészhelyzeti hatáskörökre szólít fel.