Az xAI perel egy felhasználó ellen, aki szexualizált deepfake-eket készített

Az xAI Terry Wayne Harwood ellen indított pert, akit azzal vádol, hogy szándékosan a Grok AI-chatbotot használta gyermekek szexuális visszaélésének ábrázolásához, valamint nem consentual szexualizált deepfake-ek létrehozásához. A per kedden egy texasi szövetségi bíróságon került benyújtásra. Az xAI szerint Harwood megsértette a Grok felhasználási feltételeit az AI-hez intézett kérésekkel.

Harwood 2026 februárjában már letartóztatták kiskorúak szexuális kizsákmányolása miatt. A Dél-karolinai főügyészség március 9-én jelentette be a letartóztatást az »Internet Crimes Against Children« (Gyermekek elleni internetes bűncselekmények) munkacsoportjának keretében. A férfi ellen három másod- és öt harmadrendű kiskorúak szexuális kizsákmányolása miatt emelt vádat.

A per dokumentumai szerint Harwood 2025. december 8. és 2026. február 18. között nem szexuális fényképeket töltött fel két Grok-fiókra, hogy az AI segítségével szexuálisan explicit deepfake-eket hozzon létre. Emellett nem consentual szexualizált képeket készített felnőttekről is. A Grok állítólag többször elutasította az ilyen kéréseket, de Harwood folyamatosan módosított utasításokkal próbálta megkerülni a biztonsági mechanizmusokat.

Az xAI kártérítést követel, valamint azt kéri, hogy a bíróság kötelezze Harwoodot az xAI-nak a lehetséges áldozati perek során felmerülő költségek megtérítésére. A cég véglegesen ki szeretné zárni a felhasználót a Grok használatából. Az xAI szerint az esetek 2026-ban eddig 52 222 fiók felfüggesztésével és 73 604 bejelentéssel járultak hozzá az NCMEC-hez, amely legalább 244 letartóztatáshoz vezetett.