Az AI-detektorok bizalmatlanság új korszakát teremtik

Az AI-detektorok, mint a GPTZero, a Pangram vagy a Turnitin AI-felismerő funkciója saját mesterséges intelligencia modellek segítségével próbálják megállapítani, hogy egy szöveg emberből vagy gépi tanulásból származik-e. Az eszközök a szöveg szóhasználatát, ritmusát, szerkezetét és tónusát elemzik, azonban ez a szubjektív értékelés sokkal bizonytalanabb, mint a hagyományos plágium-detektálás. Az oktatási szféra gyorsan átvette ezeket az eszközöket: az amerikai 6-12. osztályos tanárok 43 százaléka rendszeresen használ AI-detektorokat 2024-2025-ben.

A detektorok gyártói alacsony téves pozitív rátákat hirdetnek – a Turnitin szerint kevesebb mint 1 százalék, a Pangram pedig 1 a 10 000-ből –, azonban független kutatások eltérő eredményre jutottak. A 2023-as Stanford-tanulmány kimutatta, hogy az AI-detektorok az angol nyelvű nem anyanyelvi beszélőket gyakrabban jelölik meg tévesen AI-ként, mint az anyanyelvi szerzőket. Az eszközök a neurodivergensek írásai ellen is torzítottak lehetnek.

A hamis vádak valós következményekkel járnak. Egy francia hallgató pert indított Yale ellen, miután professzora GPTZero alapján AI-használattal vádolta meg végzővizsga-dolgozatát, ami felfüggesztéshez vezetett. Egy másik hallgató sikeresen perelt az Adelphi Egyetem ellen hasonló alapon. A kiadó Minotaur pedig 2 millió dolláros szerződést mondott fel Jerry Falade szerzővel AI-használat gyanúja miatt, amit az szerződésben tagad.

A detektorok gyártói maguk is elismerik az eszközök korlátait. Az OpenAI 2023-ban leállította saját AI-detektorát az alacsony pontosság miatt, a Grammarly pedig figyelmeztet, hogy az eredményekre soha nem szabad egyedül támaszkodni. Ennek ellenére az AI-vádak továbbra is terjednek az interneten, gyakran megalapozatlan vádakkal és reputációs sérelmekkel járva.