Cloudflare bemutatja a Clef döntésmodelleket

A Cloudflare két saját fejlesztésű döntésmodellt, a Clef-et és a Clef-flash-t mutatott be, amelyeket a Workers AI platformon üzemeltet. A döntésmodellek az LLM-ektől eltérően determinisztikus kimeneteket adnak, és strukturált, típusozott válaszokat produkálnak valószínűségi értékekkel. Ezek a modellek alkalmasak ügynökök automatikus döntéshozatalára, például ügyfélszolgálati üzenetek sürgősségének meghatározására vagy webhelyek besorolására. A Cloudflare saját tesztelése szerint a Clef modell 2,2 másodperc alatt képes webhelyek kategorizálására, míg a GPT-OSS-120B modell 4,7 másodpercet igényelt ugyanerre a feladatra.

A Clef modellek több előnnyel rendelkeznek a piaci versenytársakkal szemben: képesek vizuális tartalmak osztályozására is, 64 kilobájtos kontextusablakkal rendelkeznek (szemben a Jev 32 kilobájtjával), és a Cloudflare infrastruktúrájában üzemeltetett edge GPU-k révén alacsony hálózati késleltetést biztosítanak. A modellek a Jev API-val teljes mértékben kompatibilisek, és az Apache 2.0 licenc alatt nyílt forráskódúként elérhetők a Hugging Face platformon. A Cloudflare garantálja, hogy nem olvassa, tárolja vagy tanítja meg a felhasználói kéréseket és válaszokat.

A vállalat egyúttal új megerősítéses tanulási (reinforcement learning) terméket vezetett be, amely lehetővé teszi az ügyfeleknek a Clef modell finomhangolását saját felhasználási eseteikhez. Kezdetben a Cloudflare forward-deployed engineer csapatával közösen végzik a finomhangolást, később azonban önkiszolgáló platformként lesz elérhető.