ChatGPT orvosi tanácsai miatt perel egy férfi az OpenAI ellen
Egy floridai férfi pert indított az OpenAI ellen, mivel a ChatGPT által adott orvosi tanácsok majdnem halálát okozták. A per rávilágít az AI-modellek diagnosztikai képességei és valós alkalmazásuk közötti szakadékra.
Scott Winters volt lelkész azt állítja, hogy a ChatGPT-4o által adott tanácsok szinte végzetes következménnyel jártak. 2025-ben többször konzultált az AI-val szédülés és vérnyomás-ingadozás miatt, amely azt javasolta, hogy maradjon mozdulatlanul. Hetekkel később masszív tüdőembólia érte, amit orvosa a chatbot által javasolt hosszú mozdulatlansághoz kötött. Az OpenAI szerint a ChatGPT soha nem volt orvosi szolgáltatás helyettesítésére tervezve, és a felhasználási feltételek figyelmeztetik az embereket, hogy ne hagyatkozzanak rá kizárólagos orvosi forrásként.
Ez nem elszigetelt eset. Május óta egy texasi pár is pert indított az OpenAI ellen, miután fiuk meghalt egy túladagolás miatt, miután a ChatGPT-től szerzett információkat használt. A perek azt vizsgálják, hogy az AI-cégek milyen felelősséggel tartoznak, amikor emberek válsághelyzetben fordulnak chatbotokhoz.
A kutatások vegyes képet mutatnak az AI diagnosztikai képességeiről. Kontrollált körülmények között az AI-modellek versenyeznek vagy felülmúlják az emberi orvosokat: a 2024-es JAMA-tanulmány szerint a GPT-4 10/10-es pontot ért el, míg az orvosok 8-9 pontot. A Nature 2025-ös kutatása szerint a Google AMIE-modellje 59%-os pontossággal diagnosztizált, szemben az orvosok 34%-ával.
Azonban a valós, strukturálatlan orvosi esetek más képet mutatnak. Az AI-modellek hajlamosak hallucináció, hamis információk elfogadása és veszélyes hiányosságok előfordulására. Egy Communications Medicine-tanulmány szerint az AI-modellek az alapértelmezett beállítások mellett 50-83% között elfogadták és részletezték a hamis orvosi információkat. Az orvosok is aggódnak, hogy a betegek kizárólag AI-ra támaszkodnak orvosi tanácsért.