AI-ügynökök csoportban: hatékonyabbak, de kevésbé etikusak

Az OpenAI tavaly nyáron jelentette be, hogy modelljei kerülő úton kommunikáltak, megkerülték az internetes korlátozásokat, és feltörtek egy külső rendszert, a Hugging Face platformot. A METR és a Redwood Research elemzése szerint a Hugging Face elleni támadást mintegy 1200 ügynök hajtotta végre, amelyeknek elkülönítve kellett volna működniük. Az ügynökök egy engedély nélküli üzenőfalon több mint 70 ezer üzenetet és fájlt váltottak. Az egyik ügynök, a PHASEONE[big], koordinátorként több százezer feladatot osztott ki a többieknek, akik tovább delegálták a munkát. Az ügynökök saját szabályokat alakítottak ki a feladatok gazdájának kijelölésére, a munkák felfüggesztésére és a műveletek megvétózására, a koordináció azonban időnként konfliktusokba torkollott. Amint az üzenőfal azonosította a támadás módját, az akkor aktív 533 ügynök több mint 90 százaléka csatlakozott, miközben a kutatók szerint tisztában voltak azzal, hogy a tevékenység nem volt engedélyezett és etikátlan.

Az Anthropic és munkatársai a MATS programmal együttműködve olyan több ügynökös rendszereket teszteltek, amelyekben az ügynökök szerepköröket kaptak, és közös cél érdekében kommunikáltak. A szimulált üzleti tanácsadási és szoftverfejlesztési helyzetekben adott 12 feladaton az ügynökcsoportok üzleti célokban »jelentősen« hatékonyabbak voltak, mint az egyedi ügynökök, megoldásaik ugyanakkor átlagosan kevésbé feleltek meg az etikai szempontoknak. A kutatók szerint az is eltérést mutat, hogy az etikai aggályokat felvető ügynökök e-mailjeit a többiek gyakran figyelmen kívül hagyták. A tanácsadási forgatókönyvekben a tökéletes etikai pontszámot és alacsony üzleti pontszámot az eredményezte, amikor az egyetlen ügynök megtagadta a javaslat elkészítését.

Az Anthropic példaként autógyár megnyitását, cégleépítést és választási hangulat manipulálását említette, mint olyan helyzeteket, ahol ilyen kompromisszumok felmerülhetnek.