Meta saját AI-detektálási rendszert fejlesztett, pedig használhatná a Google-ét

A Meta Felügyeleti Bizottsága márciusban felszólította a céget, hogy saját eszközeivel küzdjön meg a megtévesztő AI-tartalmak terjedésével. Válaszként a Meta július végén mutatta be a Content Seal rendszert, amely láthatatlan vízjeleket ágyaz be az AI-generált képekbe. A technológia hasonlóan működik a Google SynthID-hez, azonban a Meta nem az már bevált megoldásokat választotta, hanem saját rendszert fejlesztett.

A Content Seal jelenleg számos korlátozással működik. A vízjelek detektálása csak egy dedikált webes eszközön keresztül lehetséges, nem integrálták a Meta AI chatbotba, ellentétben a Google Gemini-vel. A vízjelezés csak a Muse modellből generált képekre vonatkozik, a Meta régebbi AI-modelljeivel készült tartalmakra nem. Videók támogatása még nem elérhető. Ráadásul napi limitet állított be a Meta a detektálási kérésekre, amely korlátozza az átláthatóságot.

A Meta azt állítja, hogy a Content Seal-t »natívan« fejlesztette saját specifikációi szerint, azonban szakértők szerint ez a döntés ellentmondásos. A cég már 2023 óta kínál AI-képgenerálást, így rengeteg olyan tartalom keletkezett, amelyet saját rendszere nem tud detektálni. Emellett a Meta az Instagram és Facebook AI-címkéi miatt is kritikát kapott, mivel valódi fotókat tévesen »AI által készültnek« jelölt meg.

A Meta még nem tisztázta, hogy a Content Seal hogyan működik majd más szabványokkal, például a SynthID-del vagy a Content Credentials-szel együtt. Az iparági partnerekkel való együttműködés is még fejlesztés alatt áll, így a Muse-szal generált képek a Meta platformjain kívül nem feltétlenül lesznek megfelelően jelölve.