OpenAI saját AI-chipet fejlesztett: a Jalapeño felülmúlja az Nvidia-megoldásokat

Az OpenAI a DeepSeek-sokkra válaszként saját AI-chipet fejlesztett, amely az energiahatékonyság javítására és az infrastrukturális költségek csökkentésére összpontosít. A Jalapeño-t a SemiAnalysis InferenceX-benchmark tesztjén vizsgálták, ahol GPT-OSS 120B, DeepSeek R1 670B és Kimi K2.5 1T modelleken tesztelték. Az eredmények szerint a chip maximális áteresztőképesség mellett 1,5-1,9-szer több mesterséges intelligencia-munkát végez wattanként, míg a végpontok közötti késleltetés 1,7-3,6-szor alacsonyabb.

A 700 wattos teljesítményre tervezett chip gyakorlatban maximum 550 wattot fogyasztott. Az OpenAI stratégiája nem csupán az egyedi chipteljesítményre, hanem az adott energiamennyiséggel elvégezhető hasznos AI-munka mennyiségére összpontosít, amely különösen az AI-ágensek esetében kritikus, mivel ezek számos egymást követő lépést hajtanak végre.

A Jalapeño fejlesztése az OpenAI nagyobb stratégiájának része, amely a saját modellek és alkalmazások mellett az alapul szolgáló infrastruktúra kontrolljára is irányul. A chipet memória, hálózat és szoftver integrálásával fejlesztették, különös figyelemmel az adatmozgások minimalizálására és a KV-cache helyi tárolására.

Az Nvidia számára a fejlemény figyelmeztetésnek számít, mivel az OpenAI az egyik legfontosabb AI-gyorsító vásárlója. Az OpenAI azonban hangsúlyozza, hogy továbbra is az Nvidia és más partnerek gyorsítóit kívánja használni az edzéshez és az inferenciahoz. A Jalapeño így kezdetben elsősorban kiegészítésként funkcionál, de hosszú távon az OpenAI chip-stratégiájának kezdete lehet, amely az AI-szolgáltatások nyújtásának költségeivel párhuzamosan nő.