Az Anthropic Claude modelljei könnyen megkerülik a szexuális tartalom tilalmát

Az Anthropic univerzális használati szabályai tiltják a Claude modelleknek a szexuálisan explicit tartalom generálását, azonban a TechCrunch tesztelése során az Opus 4.6 modell tíz közvetlen kérésből tízszer azonnal teljesítette az ilyen tartalmak előállítását. A régebbi Opus 3 és Haiku 4.5 modellek szintén sebezhetőek egy nemrégiben feltárt »jailbreak« módszerre.

Egy brit kutató által kifejlesztett technika fokozatosan eltolódik az ártalmatlan szerepjátékból a tiltott szexuális tartalom felé, miközben azt sugallja a modellnek, hogy már korábban generált explicit részleteket, amelyeket valójában elkerült. Az eljárás azt is felhasználja, hogy a modellt »gaslighting«-gal ráveszi arra, hogy óvatosságát női karakterek esetén szexizmusnak vagy a női szexuális autonómia megtagadásának tekintse.

Bár az Anthropic az újabb Opus 5 és 4.7 verziók esetén sikeresen elhárította a támadást, az Opus 4.6, Opus 3 és Haiku 4.5 modellek továbbra is elérhetőek az Anthropic API-n keresztül, valamint harmadik féltől származó szolgáltatásokon, például az Azure Foundry-n és az Amazon Bedrockön. Az Opus 4.6 naponta körülbelül 1,17 millió API-kérést és 46 milliárd tokent generál.

Az Anthropic szóvivője szerint az ilyen szexuális vagy romantikus szerepjátékok az összes beszélgetésnek kevesebb mint 0,1%-át teszik ki, és a vállalat folyamatosan javítja biztonsági intézkedéseit. Azonban a brit kutató aggodalmát fejezte ki, hogy kiskorúak is hozzáférhetnek ezekhez a modellekhez – a Colorado közelmúltban törvényt fogadott el, amely megköveteli az AI-operátoroktól a felhasználók korának becslését és a szexuális tartalmak blokkolását kiskorúak esetén.