AMD optimalizálja a Muse Glimmer 30B futtatását: egységes memória és nagyobb sávszélesség
Az AMD az augusztus 10-i mérések alapján ajánlott konfigurációkat közölt a Meta nyílt forráskódú Muse Glimmer 30B mesterséges intelligencia modellhez, amely a Ryzen AI Max+ és a Radeon AI Pro R9700 grafikus kártya kombinációját helyezi előtérbe.
A Meta Superintelligence Labs augusztus 10-én az Apache-2.0 licenc alatt adta ki a Muse Glimmer modellt, amely az első nyílt forráskódú AI-modell a Llama 4 óta. Az AMD ugyanazon a napon két preferált platformot ajánlott: a Ryzen AI Max+ 395 processzorral felszerelt rendszereket és a Radeon AI Pro R9700 munkastációkat. A modell futtatásához legalább 24 gigabájt grafikus memória szükséges, az LM Studio interfészen keresztüli használathoz azonban az AMD több mint 32 gigabájt memóriát javasol.
Az AMD méréseiből kiderül, hogy a memória sávszélessége a döntő tényező a teljesítményben. A Ryzen AI Max+ 395 256 GB/s sávszélességet érhet el, míg a Radeon AI Pro R9700 644,6 GB/s-ot. Ez az eltérés közvetlenül tükröződik a token-generálási sebességben: a mini-PC 24 token/másodpercet, a dedikált grafikus kártya pedig 53 token/másodpercet produkál azonos szoftverkörnyezetben.
Az AMD »unified memory« koncepciója elsősorban a kapacitás problémáját oldja meg: olyan modelleket tesz futtathatóvá, amelyek egyetlen fogyasztói grafikus kártyára nem férnek fel. A Muse Glimmer 30B azonban kevesebb mint 20 gigabájt memóriát igényel, így a dedikált grafikus kártya továbbra is a gyorsabb megoldás. Az AMD jövőbeli Ryzen AI Max+ 400 »Gorgon Halo« processzora nagyobb rendszermemóriával az egységes memória koncepció valódi előnyeit ígéri.
A Radeon AI Pro R9700 német kereskedésben körülbelül 1430 euróért érhető el, a Ryzen AI Max+ 395-ös mini-PC-k szintén kaphatók. Az AMD saját Ryzen AI Halo referencia-rendszere azonban továbbra sem elérhető Magyarországon és Európában, csak az Egyesült Államokban 3999,99 dollárért.
Forrás: PC Games Hardware — „Mehr Speicher, mehr KI: AMD setzt auf Unified Memory - PC Games Hardware”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.