Meta napokig nem távolított el gyermekeket ábrázoló AI-tartalmakat
A Tech Transparency Project vizsgálata szerint a Meta 332 gyermekpornográfiai anyagot tartalmazó hirdetést hagyott meg a Facebookon és az Instagramon. Az ads többsége kínai fejlesztésű, valós gyermekeket ábrázoló képeket felhasználó »nudify« alkalmazásokat népszerűsített.
A Tech Transparency Project kedden közzétett jelentése szerint a Meta nem észlelt 332, gyermekpornográfiai anyagot (CSAM) tartalmazó hirdetést az idén. Az ads túlnyomó többsége kínai fejlesztésű AI-alkalmazásokat reklámozott, amelyek lehetővé teszik a gyermekek képeinek digitális manipulációját. A kutatók valós gyermekek fényképeit azonosították az hirdetésekben, köztük egy európai királyi család fiatal tagjának sajtófotóját és egy Instagram-influenszer képeit. Az egyik hirdetés egy 14 éves influenszer sportegyenruhában készült fotóját manipulálta szexuális tartalmú videóvá.
A Meta az augusztus óta már bejelentett új detekciós rendszere ellenére is több száz új CSAM-hirdetés jelent meg. Az ügynökség szerint a Meta néhány hirdetést napokig nem távolított el, miközben azok több száz megtekintéshez jutottak. A cég inkonzisztensen alkalmazta szabályzatait: egy hirdetést eltávolított, de az azonos képet és szöveget tartalmazó másolatot meghagyott. A kutatók szerint a Meta kínai hirdetési közvetítőkkel szemben kedvezőbb, mivel az ország piacán jelentős bevételeket generálnak.
A Meta az eset után eltávolította a jelzett hirdetéseket, azonban a Tech Transparency Project szerint a cég késedelmes reagálása és inkonzisztens politikája aggályos. A jelentés szerint a Meta az $18 milliárd értékű, gyermekbiztonságra vonatkozó megállapodás után sem javított hirdetés-ellenőrzési rendszerén.
Forrás: Ars Technica — „“This is the AI men actually use”: Meta ads pushed apps nudifying real teens - Ars Technica”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.