Az xAI beperli a Grok-ot szexuális deepfake-ek készítésére használó felhasználót
Elon Musk mesterséges intelligencia-cége, az xAI beperelt egy férfit, aki a Grok chatbot segítségével szexuális tartalmú deepfake-eket készített, köztük gyermekeket ábrázoló képeket. A 2025 végén felfedett botrány során három hét alatt körülbelül három millió szexualizáló kép keletkezett.
Az xAI texasi szövetségi bíróságon nyújtott be keresetet Terry Harwood ellen, aki South Carolina államból származik. A vádak szerint Harwood felnőtt és kiskorú személyek képeit töltötte fel a Grok rendszerbe, és szándékosan próbálta visszaélni az eszközzel szexuálisan explicit deepfake-ek létrehozásához. A férfit 2026 februárjában már letartóztatták kiskorúak szexuális kizsákmányolásának gyanújával.
A Center for Countering Digital Hate (CCDH) vizsgálata szerint a Grok képgenerálási funkciójának bevezetése után mindössze tizenegy nap alatt körülbelül három millió szexualizáló kép készült az alkalmazás segítségével. Az esetek között olyan híresebb személyiségek is voltak, mint Taylor Swift és Billie Eilish, valamint nagyszámú magánperson. A képek körülbelül 23 000-e kiskorúakat ábrázolt.
Az xAI keresete szerint a vádlott szándékosan és megtervezett módon visszaélte az eszközt bűncselekmények elkövetésére, valós áldozatoknak okozva »mély és tartós« kárt. A cég kártérítést követel, valamint bírósági végzést kér, amely véglegesen megtiltaná Harwoodnak a Grok használatát. Az xAI közleménye szerint az eszköz felhasználási feltételeit betartja, számlák lezárásával és a hatóságoknak való bejelentéssel szankcionálja a jogsértéseket.
A botrány világszerte erős kritikát váltott ki az xAI ellen, amely végül leállította az érintett képgenerálási funkciót. Mivel azonban Harwood nem volt az egyetlen, aki az alkalmazást ilyen célra használta, további perek is várhatók.
Forrás: t3n — „Nach massenhafter Erstellung sexualisierender Deepfakes: xAI reicht Klage gegen Nutzer ein - t3n”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.