AI-val írott hamis szakvélemények terjednek a tudományos konferenciákon
A világ egyik legrangosabb mesterséges intelligencia konferenciáján, az ICLR-en egyre több gyanús, AI által generált szakvéleményt találnak a kutatók. Az üres megfogalmazások és a témához való közömbösség árulják el az automatikus szövegeket.
A nemzetközi tudományos közösség új problémával szembesül: mesterséges intelligencia által írt, tartalmatlan szakvéleményekkel bombázzák a rangos konferenciákat. Juni Schindler és más kutatók megfigyelték, hogy az ICLR (International Conference on Learning Representations) értékelésében olyan szövegek jelennek meg, amelyekben hiányzik a valódi tudományos érdeklődés és tele vannak üres fordulatokkal.
Az ICLR, a mesterséges intelligencia kutatás egyik legfontosabb fóruma, exponenciális növekedést tapasztal. Az 2013-ban még mindössze 67 beküldött munka száma 2018-ra 1013-ra nőtt, és 2026-ra már 19525 érkezik. Ez a robbanásszerű növekedés azonban új kihívásokat hoz: a rendszer túlterheltsége lehetővé teszi, hogy AI-generált értékelések beszivárogjanak a tudományos folyamatba.
A kutatók intuíciójuk alapján kezdtek gyanakodni az értékelések autenticitására. Az olyan jelek, mint a kifejezéstelen nyelv, a tárgyhoz való közömbösség és az értelmes kritika hiánya, egyértelműen az automatikus szöveggenerálásra utalnak. A felfedezés rávilágít arra, hogy a tudományos intézmények új mechanizmusokra van szükségük az AI-val támogatott visszaélések felderítésére.
Forrás: DIE ZEIT — „KI in der Wissenschaft: Wenn die KI so tut, als sei sie Einstein - DIE ZEIT”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.