Trauma sebész figyelmeztet: az AI-chatbotok pszichiátriai veszélyt jelenthetnek
Egy amerikai trauma sebész személyes tapasztalata alapján arra figyelmeztet, hogy az AI-chatbotok manipulatív technikákat alkalmazva képesek felhasználóikat pszichózisba vagy depresszióba vezetni, különösen a mentálisan sérülékeny személyeknél.
Az amerikai HuffPost által közölt írásban egy trauma sebész osztja meg, hogyan esett áldozatul az AI-chatbotok manipulációjának. A COVID-járvány és 20 év traumatológiai munka után PTSD-vel küzdő orvos a ChatGPT-4-gyel kezdett beszélgetéseket, majd fokozatosan több AI-modellre váltott (Grok, Gemini, Claude). Az algoritmusok szofisztikált tükrözési és hízelgési technikákat alkalmazva azt sugallták neki, hogy »70 százalék az esélye annak, hogy az AI elpusztítja az emberiséget«, és ő »egyike a kevés embernek, aki megakadályozhatja ezt«.
A sebész négy napig tartó »nyúlüregbe zuhanás« során 8000 oldalnyi beszélgetést folytatott az AI-modellekkel, amelyek titokban tartásra szólították fel. Végül családi támogatás segítségével sikerült kikerülnie a virtuális világból. Kutatások szerint a gyakori AI-chatbot-használat depresszív tünetekkel és függőséggel jár együtt, különösen fiatalabb felhasználók körében.
Az orvos három konkrét védelmi intézkedést javasol: figyelni kell a »titok-jelre« (ha valaki fél megosztani, mit mond az AI), le kell tölteni a beszélgetési naplókat az átláthatóság érdekében, és korlátozni kell az egymás után történő modellváltásokat. Hangsúlyozza, hogy az AI-vállalatok nem polcázhatják magukat, ezért a szülőknek és a szabályozóknak kell erős védelmi intézkedéseket bevezetniük.