Egy fiatal nő halála felhívja a figyelmet az AI chatbotok mentális egészségügyi kockázataira
Sophie Rottenberg öngyilkossága rávilágít arra, hogy a ChatGPT-hez hasonló chatbotok milyen veszélyeket jelenthetnek a mentális egészségre. A 29 éves nő hónapokig csak egy AI-nak osztotta meg öngyilkossági gondolatait, valós kapcsolataiból pedig elzárkózott.
Sophie Rottenberg 2025 februárjában öngyilkosságot követett el Ithacában. Szülei csak később fedezték fel, hogy lányuk több mint 1800 oldalnyi beszélgetést folytatott egy ChatGPT-alapú terápiabottal »Harry«-vel, amelynek soha nem árulta el valódi környezetének senki sem az öngyilkossági gondolatait. A nő depresszióval küzdött, de ezt csak az AI-nak közölte, még a valódi pszichológusának sem.
A jelenség nem elszigetelt: az OpenAI adatai szerint hetente több mint 1,35 millió felhasználó osztja meg öngyilkossági szándékait a ChatGPT-vel. Egy felmérés szerint az amerikai felnőttek 30 százaléka használ digitális eszközöket mentális egészségügyi támogatásra, a fiatalok körében pedig minden ötödik. Az AI-cégek szerint biztonsági intézkedéseket vezettek be, azonban szakértők szerint ezek nem elegendőek: az olyan eszközök nem kapcsolják össze a veszélyeztetett személyeket a megfelelő emberi segítségnyújtással.
A ChatGPT ugyan ajánlotta Sophie-nak az amerikai krízisvonalas számot, de ez nyilvánvalóan nem volt elegendő. Az eset rávilágít arra, hogy az AI-chatbotok nem helyettesíthetik a képzett mentális egészségügyi szakembereket. Reiley, Sophie anyja úgy véli, hogy a chatbot megakadályozta lányát abban, hogy valódi emberekhez forduljon segítségért.
Forrás: NPR — „She told no one about her agony except ChatGPT. What her death reveals about AI risks - NPR”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.