Rejtett AI-parancsok a CV-ben: új csalási módszer
Egyre több jelölt rejt el láthatatlan AI-utasításokat a digitális önéletrajzában, hogy megtévessze a vállalatok által használt mesterséges intelligencia-rendszereket. A Duke Egyetem kutatása szerint az esetek körülbelül egy százalékában fordulnak elő ilyen manipulációs kísérletek.
A csalók fehér szövegként, fehér háttéren és minimális betűmérettel helyeznek el parancsokat a CV-kben, amelyeket az emberi szem nem lát. Amikor a vállalatok AI-rendszereket használnak a jelentkezések értékelésére, ezek a rejtett utasítások felülírják az eredeti értékelési szabályokat, és a jelöltet tökéletesnek minősítik a pozícióra, függetlenül a tényleges képzettségétől. Az IT-szakértők szerint az AI nem tesz különbséget az utasítások és az adatok között, így minden szöveget azonos módon dolgoz fel.
A módszer terjedésének oka az álláskeresési piacon tapasztalható frustráció: a jelöltek számos jelentkezést kell benyújtsanak egy interjúmeghívásért. Egyre több jelölt használ AI-t a jelentkezések gyorsabb elkészítéséhez, és néhányan a csalási technikához folyamodnak a sikerességi esélyek javítása érdekében.
A vállalatok azonban már védekeznek: a Randstad felmérése szerint az AI-t alkalmazó cégek 33 százaléka az önéletrajzok elemzésére, 31 százaléka pedig az előválogatásra használja a technológiát. Az IT-szakértők szerint a nagyobb vállalatok már prompt-detektáló szoftvereket alkalmaznak az ilyen rejtett parancsok felderítésére. A Google kifejlesztette a »Model Guard« nevű szoftvert, amely a felhasználói utasítások és az AI-válaszok vizsgálatával azonosítja és blokkolja a manipulációs kísérleteket.
Forrás: Euronews.com — „Betrug bei Jobsuche: Geheime KI-Befehle im digitalen Lebenslauf - Euronews.com”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.