Tanulmány: Claude AI-modell orosz dezinformációs hálózatot idéz forrásként
A berlini Agora Digitale Transformation kutatóintézet vizsgálata szerint az AI-chatbotok szűk forrásalapból merítnek a hírek feldolgozásakor, és a Claude modell többször is orosz propagandaoldalakon keresztül közvetített dezinformációt egyenrangú forrásként közölt.
Az Agora Digitale Transformation által készített tanulmány szerint az AI-modellek, mint a ChatGPT és Claude, valamint a Google Gemini és AI Overview, a hírkérdésekre adott válaszaikban szűk és nem transzparens forrásalapból dolgoznak. A kutatók május során 675 kérdést tettek fel öt témában, és körülbelül 4800 forrásutasítást elemeztek. Az eredmények szerint az AI-rendszerek nem dokumentálják nyilvánosan, hogyan választják ki a forrásokat, amit a kutatók »fekete doboznak« neveznek.
A vizsgálat felfedezett egy jelentős anomáliát: a Claude modell az orosz »Pravda-hálózatnak« nevezett dezinformációs operáció domainjeihez hétszer fordult a vizsgálati időszakban. Ez az orosz befolyási hálózat már több mint 8,5 millió cikket terjesztett, Németország mellett Franciaország, Lengyelország, Ukrajna, Moldávia és Szerbia a célországai. A tanulmány szerzője, Vivien Benert szerint »az orosz dezinformáció egyenrangúan jelent meg más híroforrások mellett«, ami veszélyezteti az informált véleményalkotást.
A kutatás rámutatott arra is, hogy az Axel Springer médiakonszern (»Welt«, »Bild«) 2023-as globális partnersége az OpenAI-val »szignifikánsan« megjelenik a ChatGPT forrásválasztásában – a welt.de az öt vizsgált AI-rendszer közül csak a ChatGPT-nél dominál, de ott az ötszörös citálási arányt mutat a második helyezett Deutschlandfunkhoz képest. Az AI-cégek nem közlik nyilvánosan ezeket a médiapartnerségeket.
Az Anthropic azt válaszolta, hogy a Claude modellt úgy képzik, hogy »politikailag kiegyensúlyozott« legyen, míg a Google azt hangsúlyozta, hogy az AI Overviews és Gemini száz féle egyedi domainen keresztül biztosít információkat. A tanulmány rávilágít az »adatmérgezés« (data poisoning) veszélyére, amellyel propagandaoldalak manipulálhatják az AI-modelleket, hogy azok dezinformációt hiteles forrásként kezeljék.
Forrás: Spiegel — „Studie: KI-Modell Claude zitiert russisches Desinformations-Netz als Nachrichtenquelle - Spiegel”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.