Claude orosz dezinformációs hálózatot idézett meg hírrészletekben

A berlini Agora Digitale Transformation gondolat- és kutatóműhely új tanulmánya szerint az AI-modellek, mint a ChatGPT és Claude, a hírekről szóló kérdésekre adott válaszaikban szűk forrásalapból merítkeznek, és az alkalmazott szelekciós kritériumok teljesen átláthatatlanok. Vivien Benert, a tanulmány vezetője szerint az AI-rendszerek a hírek közvetítésében központi kapuőrökké válnak, ami jelentős hatással van a közvélemény-képzésre és a hagyományos médiaipari üzleti modellekre.

A kutatás során az elemzők május során öt munkanapon keresztül 675 kérdést tettek fel öt témában, és körülbelül 4800 forrásra vonatkozó hivatkozást értékeltek ki. Az eredmények szerint a ChatGPT és a Perplexity elsősorban újságírói forrásokat használ, míg a Claude, a Gemini és a Google AI Overview csak körülbelül 50 százalékban támaszkodik újságírói forrásokra, helyette állami és civil szervezeti forrásokat, valamint privát blogokat és közösségi médiát is beépít válaszaiba.

A tanulmány különösen aggasztó megállapítása, hogy a Claude modell a vizsgálati időszakban hétszer hivatkozott az úgynevezett Pravda-hálózat doménjeiről származó információkra. Ez egy orosz befolyási hálózatról van szó, amely eddig több mint 8,5 millió cikket terjesztett, és Németország mellett Franciaország, Lengyelország, Ukrajna, Moldova és Szerbia a célországai. Benert szerint Claude »orosz dezinformációt egyenlő súllyal közölt más hírrészletekkel«, ami veszélyezteti az informált közvélemény-képzést.

A kutatás rávilágít arra is, hogy a médiakonszernek és AI-szolgáltatók közötti együttműködések – például az Axel Springer és az OpenAI 2023-as »globális partnerségének« hatása a ChatGPT forrásválasztására – nem transzparensek. Az Anthropic azt válaszolta, hogy a Claude modellt arra tanítják, hogy politikailag kiegyensúlyozott legyen, míg a Google azt hangsúlyozta, hogy AI-termékeik száz egyedi doménre hivatkoznak.