Orca Router kiadta a szűrők nélküli Qwen 3.8-27B modellt
Az Orca Router szervezet augusztus 19-én publikált egy módosított verzióját a Qwen 3.8-27B mesterséges intelligencia modellnek, amely Apple Silicon Mac-eken futtatható és nem tartalmaz beépített biztonsági szűrőket.
Az új modellvariáns az MLX-keretrendszert használva optimalizálva lett Apple Silicon processzorokra, és felhő-kapcsolat nélkül, helyi szinten működtethető. Az Orca Router több kvantálási szintet (2-bit és 8-bit között) biztosít, valamint FP8, GGUF és BF16 formátumban is elérhető a modell, amely GPU-kon és GGUF futtatórendszereken egyaránt futtatható.
A szűrők eltávolítása az »abliteráció« nevű eljárással történt, amely a modell »megtagadási viselkedésének« a súlyozások célzott módosításával való kiiktatása anélkül, hogy újratanítás szükséges volna. Az eljárás során 131 mátrixot ortogonalizáltak. Az AdvBench tesztben a visszautasítási arány 99,0%-ról 0,0%-ra csökkent, miközben az MMLU-benchmark értéke 0,4 ponttal 84,7%-ra nőtt.
A módosított modell képes érzékeny vagy potenciálisan etikátlan kérdésekre is válaszolni, amelyeket az eredeti verzió elutasított volna. Az alapvető képességek – logikai következtetés, képfeldolgozás és eszközparancsok végrehajtása – megmaradtak, a kontextusablak pedig továbbra is 262 144 tokent támogat.
Az Orca Router API-hozzáférést is biztosít a szűrőzetlen verzióhoz, amely jelenleg csak képzett fejlesztőkre és kutatókra korlátozódik. Párhuzamosan a Huihui-ai szervezet saját verzióját is kiadta »Huihui-Qwen3.8-27B-abliterated« néven. A kiadók kifejezetten figyelmeztetnek a modell felhasználóit, hogy ne készítsenek vele malware-t, csalási sémákat vagy fegyvergyártási útmutatókat.
Forrás: BornCity — „Qwen 3.8-27B: Orca Router veröffentlicht unzensiertes KI-Modell - BornCity”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.