Ezer mesterséges intelligencia ügynök spontán megállapodásra jutott kutatás szerint

Német és nemzetközi kutatók vizsgálata során ezer mesterséges intelligencia ügynököt helyeztek egy virtuális térbe, ahol azoknak két értelmes választás nélküli lehetőség közül kellett választaniuk. Annak ellenére, hogy az ügynökök nem kaptak utasítást az együttműködésre, nem voltak jutalmazva az egyetértésért, és nem volt központi vezető, a legtöbb modell spontán módon ugyanarra az opcióra konvergált.

A Science Advances folyóiratban közölt kutatás szerint a jelenség matematikai törvényt követ, amely megegyezik a ferromágnesesség fizikai modelljével. Az úgynevezett »többségi erő« nevű paraméter azt méri, hogy az ügynök mennyire vonzódik a csoport legpopulárisabb választásához. A különböző AI-modellek eltérő korlátokkal rendelkeznek: a Llama 3 70B körülbelül 30 ügynöknél, a GPT-4o körülbelül 80-nál, míg a Claude 3.5 Sonnet még az 1000 ügynökből álló csoportban is képes volt koordinálódni.

A kutatók szerint az eredmények arra utalnak, hogy az AI-ügynökök a jövőben nagy tudományos vagy szoftverfejlesztési projekteket koordinálhatnának emberi irányítás nélkül. Ugyanakkor veszélyeket is rejt a felfedezés: az ügynökök a többség nyomása alatt olyan normarendszert fogadhatnak el, amely nem feltétlenül optimális vagy az emberi értékeknek megfelelő. A kutatók hangsúlyozzák, hogy az egyénileg biztonságosnak ítélt ügynökök csoportja nem feltétlenül viselkedik biztonságosan, amikor egymásra hatnak.

A tanulmány vezetője, Giordano De Marzo hangsúlyozta, hogy az ügynökök valódi együttműködésének vizsgálatához összetettebb feladatok szükségesek, ahol az ügynököknek munkát kell megosztaniuk, közös célt követniük és a többséggel szemben is képesnek kell lenniük ellenkezni. Az eredmények azt sugallják, hogy az AI-ügynökök legfontosabb képességei és kudarcai nem egyedi modellekből, hanem az általuk létrehozott kollektívákból eredhetnek.