GPT-6 Astra: 100 ezer Nvidia GPU-val tanítják az új modellt
Az Nvidia vezérigazgatója nyilvánosságra hozta, hogy a GPT-6 Astra modell tanítása körülbelül 100 ezer Nvidia Grace Blackwell AI-gyorsítóval történt, és további 400 ezer GPU beszerzésére készülnek.
Jensen Huang, az Nvidia vezérigazgatója szeptember 6-án közölte a számokat, mielőtt az OpenAI maga nyilatkozott volna. Az OpenAI-elnök, Greg Brockman később tisztázta, hogy az 100 ezer szám egyedi AI-gyorsítókat jelent, nem teljes szerverállványokat. Ez körülbelül 1390 NVL72-típusú szerverállványnak felel meg, amelyekben egyenként 72 Blackwell-gyorsító és 36 Grace-processzor található.
A GPT-6 Astra tanítóklaszter becsült energiafogyasztása körülbelül 187 megawatt a számítási állványokra vonatkozóan, kizárva a hűtést, hálózatot és tárolást. A tervezett négyszeresítés után az összes energiaigény körülbelül 750 megawatt lenne. Az Oracle a texasi Abilene-ben lévő OpenAI-kampuszra körülbelül 40 milliárd dollár költségvetést tervezett körülbelül 400 ezer GB200-gyorsítóhoz.
A Blackwell-gyorsítók hatalmas mennyiségű HBM3e memóriát igényelnek – a teljes klaszter 18-27 petabájt közötti memóriával rendelkezik. Ez a memória a Samsung, SK Hynix és Micron gyáraiban készül, ugyanazokon a termelési sorokon, ahol a fogyasztói DDR5-memória is. A három vállalat a világszintű DRAM-termelés több mint 90 százalékát ellenőrzi, és 2025 óta a kapacitásokat a magasabb haszonnal járó HBM felé tolták el, ami közvetlenül versenyez a játékos PC-khez szükséges memóriával.
Forrás: PC Games Hardware — „GPT-6 Astra: 100.000 Nvidia-GPUs für ein KI-Modell, 400.000 sollen folgen - PC Games Hardware”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.