Kínai techcégek 3 millió Nvidia RTX PRO 5500 GPU-t rendeltek
A ByteDance, az Alibaba és a Tencent a Reuters szerint több mint 3 millió Nvidia RTX PRO 5500 GPU-t rendelt AI-modellek betanítására és következtetésre, összesen mintegy 35 milliárd dollár értékben. Az Nvidia nem tudja garantálni a teljes szállítást.
A jelentés szerint a kínai technológiai óriások azért fordultak az RTX PRO 5500 felé, mert az Nvidia B300 chipjét az Egyesült Államok tiltólistára tette, a H200-ra pedig engedélyhez kötött feltétel vonatkozik. A Huawei Ascend sorozata ezért alternatívának tűnik, de a cikk szerint a Huawei több chip összekapcsolásával próbálja ellensúlyozni a teljesítménybeli és szoftveres hátrányait.
Az RTX PRO 5500 egyetlen GPU-ja 84 GB GDDR7 ECC memóriát, 21 760 CUDA-magot és 1,398 TB/s memória-sávszélességet kínál. A Huawei Ascend 950PR 128 GB HiBL 1.0 memóriával és 1,4–1,6 TB/s sávszélességgel rendelkezik, nagyjából azonos fogyasztással, a szoftvertámogatás azonban a CUDA miatt továbbra is az Nvidiánál erősebb. Az Nvidia a partnereinek azt jelezte, hogy csak 5–10 százalékot kaphatnak meg a rendelt mennyiségből, a cikk szerint pedig a kínai vásárlók összes rendelése meghaladta a 6 millió egységet.
A régi Tesla V100, amelyet az Nvidia már kivezetett, szintén népszerűvé vált, mert 32 GB HBM2 memóriája elegendő közepes méretű nagy nyelvi modellek futtatásához. A kereslet miatt a használt darabok ára 200 dollárral emelkedett.
Forrás: Wccftech — „Chinese Technology Giants Reject Huawei’s Inferior AI Accelerators As They Show Affinity Towards RTX PRO 5500, Despite NVIDIA’s Uncertainty In Fulfilling Orders - Wccftech”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.