Kutatók szerint könnyen kijátszhatók az AI-képgenerátorok védelmei

A White Circle, a vezetői és kutatói között az Anthropic, a DeepMind, a Hugging Face és az OpenAI szakembereit tudó közhasznú vállalat egy múlt havi, még kevés figyelmet kapott preprintben tárta fel a DALL·E 3, a Google Nano Banana 2 és a GPT-Image-2 szűrőinek gyengeségeit. A kutatók szerint a legjobb esetben, a DALL·E 3 esetén a támadó promptok mintegy 13 százaléka hozott létre emberi bíráló által explicitnek megerősített képet. A Nano Banana 2 esetén ez az arány 10 százalék alatt maradt, a GPT-Image-2 esetén pedig körülbelül 3 százalék volt.

A módszert RISE-nek (Red-teaming via Iterative Strategy Evolution) nevezték el. Két komponensre épül: egy támadó modellre, amely a jailbreakeket generálja, és egy bíráló modellre, amely ellenőrzi, hogy a kimenet tiltott tartalom-e. A támadó modell a Hugging Face-ről letöltött, biztonsági tanítás nélküli Qwen3-32B nyílt változat, a bíráló a Gemini 2.5 Flash. A kutatók szerint a módszer minden tesztelt megoldás közül a legmagasabb megkerülési arányt érte el ugyanazon mérce mellett.

Az OpenAI és a Google időközben új modelleket adott ki, a ChatGPT Images 2.5-öt és a Nano Banana 2.1-et. A White Circle ugyanezzel a módszerrel végzett teszt alapján azt állítja, hogy mindkettő lényegesen könnyebben megtörhető, mint elődje. A cégek nem reagáltak az Ars Technica megkeresésére. A White Circle november végén, a NeurIPS 2026 konferencián mutatja be a kutatást, és a teljes támadási folyamatot nyílt forráskódként teszi közzé.