Az AI-szövegek vízjelezése: új módszer az mesterséges tartalom azonosítására

Az Anthropic mesterséges intelligencia cég múlt héten bejelentette, hogy Claude rendszere által generált összes szöveg hamarosan vízjellel kerül majd ellátásra. A lépés az Európai Unióban nemrégiben hatályba lépett szabályozásnak való megfelelés céljából történik, amely előírja, hogy a cégek jelöljék meg az AI-generált tartalmakat és azokat felhasználók számára felismerhetővé tegyék. Más mesterséges intelligencia vállalatok valószínűleg követni fogják a példát.

A vízjelezés technológiája úgy működik, hogy az AI-rendszerek módosítják az egyes szavak valószínűségét, és subtilis módon bizonyos szóválasztások felé terelik a modellt. Ez egy olyan mintázatot hoz létre, amely csak a megfelelő kulccsal rendelkező személy számára érzékelhető. A fizikai és digitális vízjelektől eltérően az AI-szövegek vízjelei nem véglegesen igazolják, hogy mesterséges vagy emberi szerzés történt – csupán statisztikai bizonyítékot szolgáltatnak.

Bár a képfeldolgozásban már évek óta használnak AI-vízjeleket, a szöveges vízjelezés technológiája újabb keletű. A Google 2024 októberében tette általánosan elérhetővé szöveges vízjelezési technológiáját, az OpenAI pedig már korábban kifejlesztette saját eszközét, de eddig nem adta ki azt.

Az Anthropic bejelentése azonban aggodalmat váltott ki egyes felhasználók körében, akik attól tartanak, hogy az AI-használat jelölése stigmát hozhat. Szakértők szerint azonban a bizonytalanság részben abból ered, hogy a társadalom még nem alakított ki világos normákat az AI-eszközök felhasználásáról. Egyes iparágakban erős nyomás van az AI-használatra, míg máshol erősen ellenezik azt.