Az EU előírja az MI-generált szövegek jelölését, de felismerésük továbbra is nehéz
Az Európai Unió augusztus eleje óta kötelezővé tette a mesterséges intelligencia által létrehozott tartalmak megjelölését. Az MI-szövegek felismerése azonban továbbra is problematikus, mivel az algoritmusok könnyen megtéveszthetők, és az embereknek minden szöveget tényszerűségre kell ellenőrizniük.
Az EU AI Act 50. cikkelye szerint azokat a szövegeket kell megjelölni, amelyek a nyilvánosságot közérdekű kérdésekről informálják, teljes egészében vagy túlnyomórészt MI-generáltak, és utána nem történt valódi szerkesztői ellenőrzés. Az MI-szövegek felismeréséhez számos jellegzetes írási minta létezik: az algoritmusok gyakran használnak hosszú gondolatjeleket, felsorolásokat, valamint általános pozitív jelzőket, mint a »ganzheitlich«. Emellett gyakori az »Ez nem X – ez Y« típusú szerkezet és olyan összehasonlítások, amelyek mélyebb gondolkodás után kevésbé értelmesebbek.
A MI-szövegek felismerésére léteznek speciális detektorok, például a Pangram, azonban ezek is megtéveszthetők és pontatlanok lehetnek. Az emberi felhasználók felelőssége, hogy ellenőrizzék, vajon az algoritmus nem plagizált-e más szövegekből, illetve hogy valódi információkat tartalmaz-e az írás, mivel az MI »hallucináció« révén kitalált adatokat is közölhet.
A 2025-ös MIT-tanulmány szerint a ChatGPT használata során a felhasználók – különösen a fiatalabbak – mérhető módon kevesebb kognitív aktivitást mutatnak. Az AI-val segített szövegeket a tanárok »lelketlennek«, személytelennek és felcserélhetőnek értékelték, és a résztvevők alig tudtak emlékezni az írott tartalmakra vagy megfogalmazásokra.
Forrás: BR — „Wie man KI-generierte Texte erkennt – und wo das Problem liegt - BR”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.