Az Anthropic vízjelezi a Claude által generált szöveget az EU-s szabályozás miatt
Az Anthropic bejelentette, hogy a jövőbeli Claude modellek láthatatlan vízjellel fogják ellátni a generált szövegeket, amely segít azonosítani, hogy a mesterséges intelligencia volt-e a szerző. A módszer az EU AI Acttal való megfelelés érdekében kerül bevezetésre.
Az Anthropic által alkalmazott vízjelezési módszer a Claude által generált szövegek közé rejtett mintákat helyez el, amely csak speciális kulccsal detektálható. A technika úgy működik, hogy a modell szóválasztási lehetőségei közül – ahol több szó is értelmes lenne – a vízjel egy determinisztikus forrásból választ, ahelyett hogy teljesen véletlenszerűen döntene. Ez a megközelítés nem változtatja meg a szöveg minőségét vagy olvashatóságát, mivel az ember számára a vízjelezett és nem vízjelezett szöveg között nincs különbség.
A módszer a Google DeepMind által 2024-ben publikált SynthID-Text technikán alapul, amely Scott Aaronson 2022-es javaslatára vezethető vissza. Az Anthropic belső tesztelése szerint a vízjelezés nem befolyásolja a tartalom minőségét, kreativitását vagy olvashatóságát. A Google DeepMind hasonló vizsgálatai sem mutattak statisztikailag szignifikáns különbséget a felhasználók értékelésében.
A vízjelezésnek azonban vannak korlátai: csak annak a valószínűségét lehet megállapítani, hogy Claude volt-e a szerző, de nem tudja megerősíteni az emberi szerzőséget vagy más mesterséges intelligencia által írt szöveget. A módszer kevésbé hatékony rövid szövegeken, és nem működik olyan faktikus részleteken, ahol csak egy helyes szó lehetséges. Az Anthropic szerint a vízjelezés bevezetése az EU AI Act betartásának része, amelyet több nagy mesterséges intelligencia-szolgáltató is megvalósít.
Forrás: Anthropic — „How Claude's text watermarking works - Anthropic”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.