Tanulmány: az AI-chatbotok nem olyan megbízhatóak, mint gondolnánk
Egy berlini kutatás szerint az AI-chatbotok politikailag torzított és desinformációs forrásokra támaszkodnak, miközben a felhasználók nem ellenőrzik az információk eredeti forrásait.
A berlini Agora Digitale Transformation NGO tanulmánya szerint az öt legfontosabb AI-chatbot (ChatGPT, Claude, Gemini, Google AI Overview, Perplexity) nem nyújtanak teljes forrástransparenciát. A kutatók 675 kérdést intéztek az AI-rendszerekhez öt különböző témában, és 4811 forrást azonosítottak 554 különböző szolgáltatótól.
A vizsgálat feltárta, hogy a leggyakrabban idézett források nem mindig politikailag semlegesek. A ChatGPT által hivatkozott források 53 százaléka jobboldali politikai irányultságú, míg a Google Gemini vitatott témáknál jobboldali álláspontot vesz fel. Az Anthropic Claude chatbotja viszonylag kiegyensúlyozottabb, bár baloldali gazdasági irányultságot mutat.
A kutatás rámutatott arra is, hogy az AI-rendszerek preferálják a velük együttműködő médiapartnerek tartalmait. Az OpenAI és az Axel Springer közötti partnerség miatt a ChatGPT a politikai témákról szóló kérdésekre több mint 200-szor idézte a Welt.de-t, míg más forrásokat mindössze egyszer. Aggasztó, hogy Claude a biztosított desinformációs forrásként azonosított orosz Pravda-hálózatot hétszer használt fel.
A tanulmány szerint az AI-válaszok 81 százaléka tartalmaz hibákat, amelyből 50 százalék forrásalapú. A »Zero-Click-keresés« jelenség miatt a felhasználók nem ellenőrzik az eredeti forrásokat, mivel az AI kész, használható szövegeket generál. Az AI-rendszerek így új »kapuőrökké« válnak, amelyek eldöntik, mely tartalmak, témák és vélemények lesznek láthatóak.
Forrás: WEB.DE — „Sind KI-Chatbots doch nicht so vertrauenswürdig wie gedacht? - WEB.DE”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.