HalluSquatting: új AI-támadás veszélyeztetheti a számítógépeket

A Tel Avivi Egyetem, a Technion és az Intuit kutatói által azonosított HalluSquatting-támadás azt az AI-hallucináció-jelenséget használja ki, amikor a mesterséges intelligencia nem létező szoftverprojekteket vagy tárhelyeket »talál meg«. Az támadó előbb azonosít egy népszerű szoftverprojektet, majd tanulmányozza, hogy a különböző AI-modellek milyen hamis tárhelyneveket találnak ki rá. Ezt követően regisztrálja az egyik hallucináció által generált nevet, és ott rosszindulatú kódot helyez el.

Az támadás akkor válik igazán veszélyessé, amikor az AI-asszisztens autonóm ügynökként működik – vagyis képes fájlokat letölteni, szoftvereket telepíteni és terminálparancsokat futtatni. A felhasználó ekkor nem a hamis nevet írja be, hanem az AI »találja ki« azt, majd automatikusan végrehajtja az támadó parancsait. A kutatók szerint az Cursor, GitHub Copilot, Gemini CLI és más eszközök ellen végzett tesztek során a hallucináció-ráta akár 85 százalékot is elért.

A támadás potenciális következményei súlyosak lehetnek: az támadó távoli kódvégrehajtást érhet el, érzékeny adatokat lophat, vagy a felhasználó gépét botnetbe szervezheti. A kutatók azonban nem dokumentáltak még széles körű HalluSquatting-kampányokat. A veszély csökkentésének egyik módja, hogy az AI-asszisztensek a letöltés előtt ellenőrizzék a tárhelyek valódiságát, azonban sok eszköz ezt nem teszi meg.