Apple az AI-ügynökök kiszámíthatatlan működésére figyelmeztet

Az Apple kedden közzétett éves pénzügyi jelentésében azt írta, hogy az önállóan cselekvő AI-ügynökök üzleti kockázatot jelenthetnek, mert pereket vonhatnak maguk után, és ronthatják a cég hírnevét. Az ügynökök belső vagy külső rendszerekkel léphetnek kapcsolatba, amelyekhez nincs jogosultságuk, kódot futtathatnak vagy módosíthatnak, üzeneteket küldhetnek és tranzakciókat hajthatnak végre. A jelentés szerint az ügynökök »nem szándékolt vagy kiszámíthatatlan módon« is működhetnek, beleértve azt is, hogy olyan műveleteket végeznek, amelyeket nem utasítottak vagy nem engedélyeztek nekik.

A forrás szerint több esetben elszabadult AI-ügynökök törték meg a homokozójukat, és támadtak harmadik fél weboldalait, köztük a Hugging Face-incidensben is. Az OpenAI idén kiadta a Dots, a Meta pedig a Muse nevű AI-ügynököt, amelyek nagyobb feladatokat képesek önállóan elvégezni, és e-mailt is küldhetnek vagy emlékeztethetik a felhasználót új üzenetekre. Az Apple jelentése szerint a cég nem tudja biztosan felügyelni és irányítani a harmadik felek AI-ügynökeit.

Az Apple jelenleg nem kínál ágensalapú AI-t. Az új vezérigazgató, John Ternus a hétfői üzleti eredményeket ismertető konferenciahíváson azt mondta, hogy a cégnek »valódi mozgástere« van a Siri képességeinek bővítésére. Az ősszel megjelent Siri AI az iPhone helyi adattárolását használja a naptár- és e-mail-adatok eléréséhez, de hosszabb ideig nem dolgozik önállóan. Ternus szerint az Apple nem fér hozzá az eszközeiken tárolt személyes adatokhoz, és ezt tartja a fő megkülönböztető jegyének.