AI-alkalmazások veszélye: mesterséges intelligencia által manipulált szexuális tartalom
Az Egyesült Államokban egyre nagyobb probléma az úgynevezett »nudify« alkalmazások terjedése, amelyek mesterséges intelligenciát használva bármely fotót szexuális tartalommá alakíthatnak át. A kutatások szerint a tinédzserek fele már találkozott AI-generált pornográfiával.
Az úgynevezett »nudify« applikációk mesterséges intelligencia segítségével képesek ruházatban lévő személyeket ábrázoló fotókat meztelen vagy pornográf képekké átalakítani. A Common Sense Media szervezet felmérése szerint az amerikai tinédzserek nagyjából fele már látott AI-generált pornográfiát, és azok közül minden negyedik saját magát vagy ismerősét ábrázoló ilyen tartalommal találkozott. A felmérés szerint minden ötödik fiatal bevallotta, hogy maga is készített ilyen képeket, míg minden negyedik megosztott vagy ismer olyan személyt, aki megosztott hasonló tartalmat.
A CBS News vizsgálata során 70 különböző AI-fotószerkesztő alkalmazást tesztelt, amelyből 19 sikeresen hozott létre meztelen és szexuális tartalmú képeket és videókat. Az alkalmazások többsége felnőtteknek van minősítve, de néhány tizenéveseknek megfelelőnek jelölt, és van olyan, amely nem rendelkezik korhatárral. Az alkalmazások könnyen elérhetők, és egy fotó átalakítása mindössze 30 másodperc alatt elvégezhető.
A Google és az Apple már eltávolított több ilyen alkalmazást az App Store-ból és a Google Play Store-ból, miután a CBS News felhívta figyelmüket. Az Apple közleménye szerint már »proaktívan elutasított és eltávolított« számos ilyen alkalmazást, míg a Google azt közölte, hogy »több száz« jogsértő alkalmazást függesztett fel.
A szakértők szerint az iskoláknak és a szülőknek kulcsszerepük van a probléma kezelésében. Az Austin Független Iskolai Kerület rendőrségének nyomozója szerint a bűnelkövetők gyakran az áldozatok osztálytársai, és az eset súlyosságától függően a cselekmény osztálybüntetéstől akár börtönbüntetésig terjedő következménnyel járhat. A szülőknek javasolt, hogy nyílt beszélgetéseket folytassanak gyermekeikkel az AI-használatról, és megbízható felnőttként támogassák őket.
Ha valaki ilyen helyzetbe kerül, azonnal fordulhat a National Center for Missing and Exploited Children segélyvonalához a cybertipline.org weboldalon vagy az 1-800-843-5678 telefonszámon. Az öt legnagyobb amerikai iskolai kerület közül – köztük New York, Los Angeles és Houston – már rendelkezik intézkedési tervvel az ilyen esetek kezelésére.
Forrás: CBS News — „AI "nudify" apps that can digitally undress any photo pose back-to-school risk - CBS News”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.