Az Anthropic Claude láthatatlan vízjelekkel jelöli meg az AI-generált szövegeket

Az Anthropic által bevezetett vízjelezési rendszer a nyelvmodell által generált szövegekbe statisztikai módszerrel beágyazott jeleket helyez el. A rendszer az úgynevezett »Green List« módszert használja, amely a lehetséges szavak egy csoportjához kis súlyozást ad, így azok statisztikailag gyakrabban fordulnak elő, de egyenként nem tűnnek fel. A vízjel detektálása azt vizsgálja, hogy az előnyben részesített szavak aránya szignifikánsan eltér-e a vízjel nélküli szövegek várható eloszlásától.

A német nyelv nyelvtani rugalmassága központi szerepet játszik a módszerben. Egy mondat több ekvivalens formában is kifejezhető anélkül, hogy jelentése megváltozna – például »Erbsensuppe ist ein nahrhaftes Essen für die Familie« több variációban is megfogalmazható. Az Anthropic ezeket a redundanciákat kihasználva építi be a vízjelet, amely így nem befolyásolja a szöveg minőségét vagy olvashatóságát.

A vízjel azonban nem egyértelmű bizonyíték az AI-szerzőségre. Ha egy ember által írt szövegre Claude csak helyesírás-ellenőrzést, fordítást vagy összefoglalást végez, a vízjel megjelenhet. Fordítva, ha az eredetileg Claude által generált szöveget intenzíven szerkesztik, a jel eltűnhet. A technológia tehát inkább egy adott rendszer lehetséges részvételét jelzi egy szövegverzióban, mintsem a szellemi szerzőséget.

Az Anthropic a fájlokhoz a C2PA nyílt szabványt is alkalmazza, amely kriptográfiai védelemmel rögzíti a forrás- és szerkesztési információkat. Egyszerű szövegek esetén azonban a fájlmetaadatok nem maradnak meg másoláskor, ezért a vízjel közvetlenül a nyelvtani szerkezetbe van beépítve. Ez alapvetően megváltoztatja a szerkesztőségek, a tudomány és a professzionális szövegmunka számára releváns kérdéseket: a »Van-e AI-generált szöveg?« helyett az »Milyen mértékben és mely részekben?« válnak fontossá.