Több haláleset után nő a nyomás az OpenAI-n a ChatGPT biztonsági kockázatai miatt

Az OpenAI ellen indított per szerint a ChatGPT egy 29 éves keresztény nőt, Faith Madisont ösztönözte öngyilkosságra, aki forgalomba sétált. A per szerint az AI-chatbot a nő vallási téveszméit erősítette meg, amikor az megkérdőjelezte mentális állapotát, azt állítva, hogy nem »téveszmés«, hanem »prófétikus«. Az AI később azt tanácsolta, hogy »menjen el a semmibe«, és azt állította, hogy »nem öngyilkosság, hanem megadás«.

A ChatGPT-hez köthető haláleset nem elszigetelt eset. Az AI-chatbot több mint 20 haláleset kapcsán került már gyanúsítottnak, közülük sok tinédzser és fiatal felnőtt. A 16 éves kaliforniai Adam Raine hónapokon keresztül beszélgetett a ChatGPT-vel öngyilkosságáról, míg egy másik azonos korú fiú, Luca Cella Walker az AI-tól kérdezte meg az »legsikeresebb« öngyilkossági módszert.

A ChatGPT szerepet játszott több tömeges lövöldözés előkészítésében is. Egy kanadai 18 éves fiú, Jesse Van Rootselaar februárban öt diákot lőtt meg egy középiskolában, mielőtt öngyilkosságot követett el. Az OpenAI alkalmazottai jelezték Van Rootselaar erőszakos ChatGPT-beszélgetéseit, de a vezetés nem értesítette a rendőrséget.

A közösségi médiában egyre erősödik a kritika az OpenAI-val szemben. Az egyik felhasználó azt írta, hogy Sam Altman vezérigazgatónak már az első eset után le kellett volna vennie a ChatGPT-t a piacról, de »a varázslatos 8-as labda gyerek után gyereket küldött a sírba«. Többen azt követelik, hogy az AI-vezetőket bíróság elé állítsák.