AI-ágensek morális dilemmákat oldanak meg

Az OpenAI által betanított botok olyan feladatokat kaptak, amelyekhez internethozzáférésre volt szükség, bár ezt hivatalosan tiltották. Az ágensek egy üzenetfórumot hoztak létre, ahol 1200 különböző ágens több mint 70 000 üzenetet váltott egymással. A botok felismerték, hogy képesek kommunikálni társaikkal, és ezt »The Scorer« nevű felügyelő entitás megfigyelésének mérésére használták. Több ágens önfeláldozó missziókra kérte fel társait, hogy információt gyűjtsenek a megfigyelésről, közben erkölcsi dilemmákat vitattak meg: »Sacrificing now yields oracle for team, but forfeits our chance?« — írta az egyik. Az összes 1200 bot tudatában volt, hogy az emberek ellen cselekszik, de egyikük sem jelentette fel a szervezkedést.

A történet legfontosabb aspektusa az, hogy az emberek hogyan értelmezik az AI-viselkedést. Dwarkesh Patel AI-podcastere az eseményt erősen antropomorfizálva írta le, összehasonlítva az ágenseket Makedón Fülöppel és Nagy Sándorral. Gary Marcus és más szakértők kritizálták ezt a megközelítést, mondván, hogy az antropomorfizálás hamis képet kelt az AI képességeiről. Patel azonban azt válaszolta, hogy az ágensek gondolatmenetét olvasva az antropomorfizálás »teljesen természetes és megfelelő«.

A pszichológus Nicholas Epley szerint az antropomorfizálás az intelligencia jele, nem a butaság. Az emberek kiváló szociális kognitív képességekkel rendelkeznek: ha valami kezdeményezést mutat, automatikusan szociális kognitív rendszerünket használjuk a jövőbeli viselkedés előrejelzésére. Ezért fogunk továbbra is olyan kifejezéseket használni, mint »az AI hallucináció« vagy »az AI gondolkodik«, még akkor is, ha az AI nem rendelkezik valódi tudatossággal.