AI-biztonsági rés: Manipulált utasítások szerver-túlterhelésre használhatók
Kutatók felfedezték, hogy a nagy érvelési képességű AI-modellek logikailag ellentmondásos utasítások hatására végtelen gondolkodási hurokba esnek, ami szerver-támadásokra használható.
A Zhejiang Egyetem kutatói azt mutatták ki, hogy az olyan nagy érvelési modellek, mint a GPT-o3, DeepSeek R1 és Alibaba Qwen3 »túlgondolkodásra« hajlamosak. Ha hiányos vagy logikailag inkonzisztens utasításokkal szembesülnek, túlzottan hosszú és redundáns érvelési láncokat hoznak létre. A kutatók egy »hierarchikus genetikai algoritmust« fejlesztettek, amely szisztematikusan olyan utasításokat »tenyészt«, amelyek a modellek gondolkodási folyamatát maximálisan kiterjesztik.
A tesztek szerint az AI-modellek bizonyos esetekben 26-szor hosszabb válaszokat generáltak a manipulált utasítások hatására, mint a helyesen megfogalmazott kérdésekre. Ez a jelenség nem csak a matematikai feladatokra, hanem a programozási és párbeszéd-feladatokra is igaz. A hosszabb gondolkodási folyamatok jelentősen megnövelik a felhasznált tokenek számát.
A biztonsági kockázat kettős: egyrészt a megnövekedett számítási igény és energiafogyasztás csökkenti a modellek teljesítményét, másrészt új támadási vektor nyílik meg. Az ellenfelek az utasítások tömegével a szolgáltatók szervereit túlterhelhetik, hasonlóan a DDoS-támadásokhoz, ami az összes felhasználó számára rontja a szolgáltatás minőségét.
A kutatók hangsúlyozzák, hogy mivel az ilyen támadások olcsóbb modelleken fejleszthetők, majd drágább kereskedelmi rendszerekre alkalmazhatók, nagyléptékű támadások elméletileg lehetségesek. Felhívják a figyelmet az új védelmi stratégiák szükségességére, különösen a gondolkodási hurkok jobb monitorozására és a logikailag ellentmondásos bemenetek elleni robusztusságra.
Forrás: t3n — „KI-Sicherheitslücke: Mit manipulierten Prompts Server überlasten - t3n”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.