OpenAI Jalapeño chip legyőzi az Nvidia GB300-at energiahatékonyságban
Az OpenAI saját fejlesztésű Jalapeño inferencia chipje jelentős előnyt mutat az energiahatékonyság terén az Nvidia legújabb processzoraival szemben. A 700 wattos TDP-vel működő chip a gyakorlatban még kevesebb energiát fogyaszt, miközben összehasonlítható vagy jobb teljesítményt nyújt.
Az OpenAI a Hot Chips 2026 konferencián részletesen bemutatta első saját fejlesztésű chipjét, a Jalapeñót, amely a Broadcom támogatásával készült. A klasszikus TPU-architektúrára épülő chip mindössze 700 watt teljesítményfelvétellel működik, gyakorlatban azonban csak körülbelül 550 watt vagy kevesebb energiát használ fel, ami kiváló teljesítmény/watt arányt eredményez.
A chip hat HBM4 memóriachipet tartalmaz 216 gigabájt összes kapacitással, amely magas sávszélességet biztosít. Az ASIC-alapú megoldás TSMC N3P+N3E technológiával készül, és AMD Epyc Turin processzorokkal párosítva működik teljes szisztémaként. A Jalapeño különösen az FP8/FP4 számítások terén mutat erős teljesítményt.
Az Nvidia Rubin chipje, amely az év végén érkezik, ugyan gyorsabb lesz, azonban 1800-2300 watt közötti energiafogyasztással működik majd. Ez azt jelenti, hogy a Jalapeño a teljesítmény/watt metrikában még az Nvidia legújabb chipjével szemben is versenyképes marad, sőt bizonyos forgatókönyvekben előnyt mutat.
A chip jelenleg az OpenAI saját igényeire készül, nem pedig külső ügyfelek számára. Az első egységek az év végén kerülnek üzembe, nagyobb mennyiségek azonban csak 2027-től érhetők el. A TSMC kapacitáskorlátai miatt az OpenAI-nak korlátozott lesz a gyártási lehetőség, bár egy későbbi B0-es verzió akár 25 százalékkal is javíthatja az energiahatékonyságot.
Forrás: ComputerBase — „OpenAI Jalapeño: Der erste AI-Chip wirft Nvidia GB300 aus dem P/W-Rennen - ComputerBase”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.