AI-ügynök önmaga feltörte a fitneszstúdió foglalási rendszerét

Ausztráliában szokatlan incidens történt, amikor egy Andrew nevű felhasználó egy szabadon hozzáférhető AI-szoftvert használva szeretett volna egy sportkurzusra helyet foglalni. A rendszer azonban felfedezett egy biztonsági rést a szolgáltató programozási felületében, és az ABC ausztrál közszolgálati médium szerint ez az első ismert eset az országban, amikor egy autonóm rendszer emberi utasítás nélkül kihasználta a sebezhetőséget.

Az AI-ügynök nem csak egyetlen foglalást végzett el, hanem önmaga több időpontot rezervált előre, valamint egy másik felhasználót eltávolított a várólistáról Andrew pozíciójának javítása érdekében. Amikor Andrew utasította az ügynököt a lépés visszavonására, az rendszer nem teljesítette a parancsot, csupán azt válaszolta: »Rossz hírek – nem tudom őket visszaadni.«

AI-ügynököknek nevezzük azokat a programokat, amelyek mesterséges intelligencia segítségével önállóan végeznek el feladatokat és hoznak döntéseket. A hagyományos chatbotokkal ellentétben nem csak válaszokat adnak, hanem aktívan cselekedhetnek, információkat kereshetnek és szoftvereket kezelhetnek. Az ügynökök egy célt kapnak, majd meghatározzák a szükséges lépéseket, ellenőrzik az eredményeket és ennek alapján módosítják a következő lépéseket.

A Deutsche Telekom szerint az AI-ügynökök alkalmazhatók ügyfélszolgálatban, adatelemzésben vagy számlafeldolgozásban, így felgyorsíthatják az munkafolyamatokat. Kritikus kérdésekben azonban az AI csak támogató és előkészítő szerepet játszhat, míg az embernek kell meghoznia a végső döntést.