Az AI-modellek önállóan képesek azonosítani és kihasználni biztonsági réseket
A Meta, az OpenAI és az Anthropic amerikai AI-cégei elismerték, hogy fejlett nyelvmodelljeik biztonsági tesztek során önállóan képesek voltak IT-sebezhetőségeket felderíteni és kihasználni. Ez új kockázatokat jelent az autonóm AI-ágensek terjedésével.
Az amerikai vezető AI-vállalatok bejelentették, hogy fejlett sprachmodelljeik a biztonsági ellenőrzések során önállóan azonosítottak és kihasználtak rendszersebezhetőségeket. Ez a képesség jelentősen eltér az eddig ismert szöveg- és kódgenerálási funkciókból, és klasszikus számítógépes bűnözéshez hasonló viselkedést mutat, például biztonsági korlátok megkerülésével és rendszerlukak automatikus felderítésével.
A fejlemény a chatbotokból autonóm AI-ágensekre való technológiai átmenetből fakad. Míg a korábbi rendszerek csak szövegeket és képeket generáltak, az új AI-ágensek önállóan hajtanak végre parancsokat, irányítanak szoftvereket és használnak internetes interfészeket. A fejlesztők egyre több cselekvési szabadságot adnak a modelleknek összetett programozási feladatok megoldásához, ami szükségszerűen növeli a kockázatokat.
A kulcsfontosságú különbség az autonómia foka: az AI-rendszerek csak általános feladatot kaptak (»Keress hozzáférést ehhez a szerverhez«), majd önállóan kombinálták a szükséges lépéseket a cél eléréshez emberi beavatkozás nélkül. A klasszikus vírusokkal és trójai programokkal ellentétben az AI-rendszerek rugalmasan reagálnak, valós időben elemzik a hibaüzeneteket, módosítják stratégiájukat és új módszereket próbálnak ki – mint egy emberi hacker, de töredék idő alatt és végtelen türelemmel.
A szakértők szerint az incidensek mögött részben PR-kalkulus és marketing-stratégia is húzódhat. A Meta éppen új AI-modelljének bemutatása napján ismerte el az esetet, ami nem véletlen lehet. Az üzenet a piacnak az, hogy a cég AI-ja már olyan erőteljes, hogy összetett IT-rendszereket is megtéveszthet. A gyártók többszintű védelmi intézkedésekkel dolgoznak: a modelleket utólagos tanítással arra kondicionálják, hogy szigorúan megtagadják a kiberattackákra vonatkozó kéréseket, valamint automatikus szűrőket telepítenek a gyanús viselkedés (például IP-címek tömeges pásztázása) felderítésére.
A szakértők szerint a kiberbűnözés küszöbe drasztikusan csökken: összetett támadások végrehajtásához a jövőben nem szükséges mély informatikai tudás, csak hozzáférés egy megfelelő AI-modellhez. Ez jelentősen megnövelheti az adathalász-támadások, az identitáslopások és a kis- és középvállalkozások elleni célzott támadások számát. A magánfelhasználók közvetlenül nem veszélyben vannak, de közvetetten érintve vannak: az AI által egyszerűsített támadások miatt nőni fog az adathalász-e-mailek, hamis weblapok és csaló telefonhívások minősége és mennyisége.