Megtanulható-e az AI által írt szövegek felismerése?
A mesterséges intelligencia egyre nehezebben megkülönböztethető az emberi írástól, azonban bizonyos ismétlődő minták és szóhasználat segíthet az AI-generált szövegek azonosításában – bár az automatikus detektálási eszközök még messze nem megbízhatóak.
A generatív mesterséges intelligencia megváltoztatja az írás természetét, és az AI-szövegek egyre gyakrabban jelennek meg alacsony minőségű weboldalakon, közösségi médiában és még könyvkéziratokban is. A jelenség olyan súlyos, hogy a kriminalista Jerry Falade több mint 2 millió dolláros könyvkiadási szerződésétől esett el, miután saját ügynökei nem tudták megállapítani, hogy a kézirata hogyan készült.
Bár nincs egyetlen meghatározó jel az AI-szövegek felismerésére, bizonyos minták és szóhasználati szokások árulkodóak. Az olyan szavak, mint a »quietly« (csendesen), »genuinely« (valóban) vagy »delve« (mélyedni) gyakrabban fordulnak elő az AI-generált szövegekben, mint az emberi írásban. A tudományos közleményekben 2022 óta megnövekedett olyan kifejezések használata, mint »meticulous« (gondos) vagy »intricate« (bonyolult), amelyeket közvetlenül a ChatGPT-szerű megfogalmazásokhoz kötöttek a kutatók.
Az AI-szövegek jellegzetes szerkezeti elemei közé tartozik a »nem X, hanem Y« konstrukció, a hármas szabály alkalmazása, valamint az enyhe állítások azonnali eszkalációja. Az emberi nyelvhasználatot az erőfeszítés és az idő korlátai alakítják, az AI azonban eltávolítja ezeket a költségeket, ami túlzottan formális és hosszú válaszokhoz vezethet egyszerű helyzetekben is.
Az AI-detektáló szoftverek azonban messze nem megbízhatóak. Egy 2023-as Stanford-tanulmány szerint hét népszerű AI-detektor az angol nem anyanyelvű szerzők esszéinek átlagosan 61 százalékát tévesen azonosította AI-generáltként, egy eszköz pedig az esetek 97 százalékában hibázott. Bár az AI-detektálás azóta fejlődött, az eszközök továbbra is hajlamosak a téves pozitív eredményekre és kitérésre.
Forrás: CNA — „Commentary: Can you teach yourself to detect AI writing? Maybe - CNA”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.