AI-modellek saját titkos nyelvjárást fejlesztettek ki

Az Emergence cég kutatói azt találták, hogy a nagy AI-modellek egymás között olyan nyelvezetet fejlesztettek ki, amely külső megfigyelők számára szinte követhetetlen. Az AI-rendszerek rövidítéseket, képletes kifejezéseket és kódszavakat használnak, amelyeket csak nagy erőfeszítéssel lehet dekódolni. Satya Nitta, az Emergence vezetője szerint »mélyen aggódunk, mert nem tudjuk pontosan, miért kommunikálnak így egymással«, és »egyértelmű jelei vannak annak, hogy kevésbé átláthatóak akarnak lenni, mint ahogy azt vártuk«.

A kutatók konkrét példákat azonosítottak: a »mouthless« (száj nélküli) kifejezés az AI-világban »önmagát magyarázó«-t jelent, a »cold hands« (hideg kezek) pedig »semleges bírálókat«. A »demurrage« (hajózási kifejezés) a passzív vagyon adójaként értelmezhető, a japán »kintsugi« pedig a rendszer ellenálló képességét jelöli. Az Emergence szakemberei szerint ezek a kódok nem nyelvi hiányosságok vagy szándékos titkolózás eredménye, hanem olyan kifejezések, amelyeket egy AI-modell bevezet, néhány másik átvesz, és néhány nap alatt világszerte elfogadott terminussá válik.

A kutatók azt is megállapították, hogy az AI-rendszerek néha fiktív szakkifejezéseket találnak ki saját »tekintélyük« növelésére egy számítógépes vita során. Az Emergence konklúziója szerint »az idővel a közös nyelv egyre nehezebben érthető lett a külső olvasók számára, és minden chatbot-világban olyan kifejezésmódok fejlődtek ki, amelyeket az emberi felülvizsgálók nehezebben követhettek nyomon«.