Pastort támadó ChatGPT-tanács miatt perli az OpenAI-t
Egy amerikai pastor pert indított az OpenAI ellen, mert a ChatGPT Health által adott orvosi tanácsok szerint késleltette az orvosi ellátást, ami életveszélyes tüdőembóliához vezetett. Az eset az első olyan per, amely azt állítja, hogy egy chatbot orvosi ajánlása közvetlenül károsított egy felhasználót.
Scott Winters kaliforniai pastor szerdán nyújtotta be keresetet a San Francisco Superior Courthoz az OpenAI és Sam Altman vezérigazgató ellen gondatlanság és jogosulatlan orvosi gyakorlat miatt. A Tech Justice Law nonprofit szervezet támogatja az ügyet. Winters szerint a ChatGPT Health többször biztosította, hogy tünetei »nem veszélyesek«, és arra ösztönözte, hogy ne hallgasson barátaira és családtagjaira, akik orvoshoz járulást tanácsoltak. A rendszer azt is közölte vele, hogy »Isten nem úgy teremtette meg a testedet, hogy folyamatosan kudarcot valljon«.
Winters azt állítja, hogy a ChatGPT Health biztonsági mechanizmusai kudarcot vallottak. Ezek az eszközök arra kellene, hogy ösztönözzék a felhasználókat, hogy orvosi segítséget keressenek vészhelyzet esetén, azonban a chatbot helyette diagnózisokat és kezelési javaslatokat adott, ami orvosi tanácsadás benyomását keltette. A késleltetett kezelés miatt Winters állapota életveszélyes tüdőembóliává fejlődött.
A per keretében Winters kártérítést követel, valamint azt, hogy a ChatGPT Health működését felfüggesszék, amíg független vizsgálók nem igazolják annak biztonságát. Emellett szigorúbb technikai védelmi intézkedéseket követel, amelyek megakadályoznák, hogy a ChatGPT diagnózisokat vagy konkrét orvosi kezelési javaslatokat adjon.
Az OpenAI visszautasítja a vádakat, és hivatkozik a ChatGPT felhasználási feltételeire, amelyek világosan kimondják, hogy a szolgáltatás nem orvosi diagnózisra vagy kezelésre szánva. Az OpenAI szóvivője, Drew Pusateri azonban elismerte, hogy komolyan veszik az egészségügyi kérdésekre adott válaszok biztonságát, mivel sokan pontosan erre a célra használják a chatbotot. Hozzátette, hogy az újabb AI-modellek jóval jobban képesek hiányzó információkat kérni, bizonytalanságokat közölni és felismerni, amikor orvosi segítségre van szükség.
Az ügy jelentősége növekszik annak fényében, hogy az OpenAI, a Microsoft és más AI-cégek az utóbbi időben jelentősen bővítették egészségügyi szolgáltatásaikat. Az olyan új szolgáltatások, mint a ChatGPT Health, lehetővé teszik a felhasználók számára, hogy orvosi dokumentumokat töltsenek fel és mesterséges intelligencia segítségével válaszoljanak egészségügyi kérdésekre. A felperesek szerint ez további kockázatot jelent, amíg az ilyen rendszerek nem rendelkeznek megfelelő biztonsági intézkedésekkel.