AI-hallucináció: GPTZero kimutatott hamis adatokat a PwC tanulmányában
A GPTZero AI-detektáló eszköz hibákat talált egy PwC-tanulmányban, amely mesterséges intelligenciát használt. Az elemzés szerint a modell fiktív forrásokat és valótlan adatokat generált.
A PwC által közzétett tanulmányban, amely mesterséges intelligencia alkalmazásáról szólt, az AI-detektor eszköz több problémát azonosított. A GPTZero vizsgálata szerint a dokumentumban olyan források szerepeltek, amelyek nem léteznek, valamint olyan adatok, amelyeket az AI-modell hallucináció útján hozott létre.
Az eset rávilágít az úgynevezett »AI-slop« problémájára, amikor a generatív AI-modellek által előállított tartalmak – még ha professzionális szervezetektől is származnak – nem mindig megbízhatóak és tényszerűek. A hallucináció jelensége azt jelenti, hogy az AI-rendszerek olyan információkat állítanak elő, amelyek valódinak tűnnek, de valójában nem alapulnak valós adatokon.
A felfedezés rámutat arra, hogy még a nagy szervezetek is kockázatot vállalnak, amikor AI-eszközöket használnak tartalomkészítéshez anélkül, hogy megfelelő ellenőrzést végeznének. Az eset fontosságát hangsúlyozza, hogy az AI-generált tartalmak validálása és ténycheck-elése továbbra is kritikus feladat marad.