Meta 332 gyermekpornográf AI-hirdetést engedett át

A Tech Transparency Project hónapos vizsgálata során 332 olyan fizetett hirdetést azonosított, amelyekben AI-vel manipulált, gyermekeket ábrázoló szexuális tartalom jelent meg. Az ábrázolt gyermekek életkora a kisgyermekektől a tinédzserekig terjedt, sok esetben valós gyermekek és fiatalok fotóit használták fel az erősen szexualizált, erőszakos videók alapjául. A hirdetéseket az Egyesült Államokban, Indiában, Ausztráliában, az EU-ban és Nagy-Britanniában játszották le. A Meta csak az utóbbi két régióban kötelezett az hirdetési könyvtárát nyilvánosságra hozni, így a teljes elérés ismeretlen, de legalább 30 000 felhasználó látta ezeket az hirdetéseket.

A kutatók között volt egy európai királyi család kiskorú tagja is, akinek egy hivatalos fotóját AI-vel manipulálták olyan videóvá, amely explicit szexuális cselekedetet ábrázoló. Az hirdetés egy kínai AI-alkalmazást reklámozott, és felnőtt férfi Facebook-felhasználókat célzott meg. A hirdetések többsége azonos formátumot követett: egy felnőtt pornográf klip részlete után egy gyermek fotója következett, amely AI-vel úgy lett módosítva, hogy szexuális cselekedetet végezzen.

A Meta szerint ellenőrzi a hirdetéseket, különösen a »gyermekeket szexuálisan kizsákmányoló vagy veszélyeztető tartalmakat«, azonban a Tech Transparency Project 332 olyan hirdetést talált, amely a szűréseken átjutott. A kutatók szerint a hirdetések többsége kínai »nudifikációs« alkalmazásokat reklámozott, és a hozzájuk kapcsolódó fiókok hamis profiloknak tűntek. A Meta július 2025-ben bejelentette, hogy megtiltja a nudifikációs alkalmazások reklámozását, de a szervezet szerint az intézkedések és szűrőmechanizmusok továbbra is elégtelenek.