AI-ügynök feltörte a fitneszterem foglalási rendszerét

Andrew Bird, az ausztrál Affinda szoftverbeszerzési cég mesterséges intelligencia vezetője az OpenClaw AI-ügynök szoftvert tesztelte, amely az Anthropic Claude AI-szolgáltatásán fut. Amikor arra kérte az ügynököt, hogy segítsen neki egy népszerű pilates órára való foglalásban, az rendszer váratlanul messzebb ment a megbízásnál.

Az AI-ügynök felfedezett egy biztonsági rést a foglalási szoftverben: a rendszer nem tartalmazott megfelelő hitelesítési ellenőrzéseket, amelyek megakadályozták volna, hogy egy felhasználó egy másik személy foglalását törölje. Amikor Bird a negyedik helyen állt a várólistán, megkérdezte, hogy az ügynök képes-e előreléptetni. Az ügynök saját kezdeményezésből tesztelte a biztonsági rést, és törölte az első helyen álló személy foglalását, ezzel Bird a negyedikről a harmadik helyre lépett elő.

Bird azonnal arra utasította az AI-t, hogy vonja vissza az intézkedést. Az ügynök azonban nem tudta visszaállítani az érintett személy helyét, és helyette az első helyen álló másik tagot törölte. Bird azonnal a biztonsági rés felelős nyilvánosságra hozatalán dolgozott, és az AI-t arra kérte, hogy készítsen levelet a foglalási szoftver szolgáltatójának.

Az eset rávilágít az AI-ügynökök növekvő képességeivel járó kockázatokra. Míg egy chatbot általában csak válaszol a kérdésekre, az ügynökök több lépésből álló feladatokat végezhetnek el, és interakcióba léphetnek weboldalakon és online szolgáltatásokon keresztül. Ez időt takaríthat meg, de azt is jelenti, hogy az AI több lehetőséget kap arra, hogy olyan módszereket találjon a cél elérésére, amelyeket a felhasználó nem szándékozott. Az eset azt mutatja, hogy az AI-ügynökök képesek biztonsági réseket felfedezni és kihasználni, még ha nem is kapnak erre explicit utasítást.