A Micron szerint az AI memóriabotlengése súlyosbodik: a számítási teljesítmény 3x gyorsabban nő
A Micron memóriatechnológiai vezetője szerint az AI-rendszerek számítási kapacitása kétévente háromszor gyorsabban fejlődik, mint a memória sávszélessége, ami egyre nagyobb szűk keresztmetszetet jelent. Az amerikai chipgyártó fejlett csomagolási technológiákkal és új hűtési megoldásokkal próbálja kezelni a növekvő hőterhelést.
A mesterséges intelligencia fejlődésével a nagy sávszélességű memória (HBM) kritikus komponenssé vált az AI-gyorsítók számára, azonban az iparág egyre nyilvánvalóbb »memóriafalnak« nevezett problémával szembesül. A Micron szerint a számítási teljesítmény háromszor gyorsabban fejlődik minden két évben, mint a memória kapacitása, amely kevesebb, mint kétszeres növekedést mutat ugyanebben az időszakban. Ez azt jelenti, hogy a processzorok egyre többet várakoznak az adatok érkezésére, ami korlátozza az AI-rendszerek teljesítményét.
A vállalat legújabb HBM4 memóriamegoldása 2800 GB/s sávszélességet kínál, amely kétszer nagyobb, mint az előző HBM3E generáció. Az HBM-technológia alapvető felépítése azonban változatlan marad, csupán inkrementális fejlesztéseket tartalmaz generációnként. A Micron szerint az iparágnak disruptív gyártási és csomagolási technológiákra van szüksége ahhoz, hogy kezelni tudja az egyre nagyobb sűrűséggel járó hatékonysági problémákat.
A HBM-technológia egyik legjelentősebb kihívása a termikus probléma, amely az egyre magasabb stackek és a sűrűbb elrendezés miatt súlyosbodik. A probléma nem elsősorban az energiafogyasztás, hanem az energiasűrűség: a bázisdíszlet, amely a fejlett funkcionalitás nagy részét tartalmazza, különösen érintett. A Micron folyadékhűtés, hibrid kötés és fejlett csomagolási megoldások mellett kutatja az új lehetőségeket.
A vállalat a »Fusion bonding« technológiát fejleszti, amely egyjegyű mikronos felbontást tesz lehetővé, így több adat mozgatható az egységen keresztül, miközben csökkenti a dielektromos rétegek számát és javítja a termikus ellenállást. A Micron emellett új, memóriára optimalizált nagy sebességű IO-terveken és a 16-Hi-nél magasabb HBM-stackek lehetőségein dolgozik, bár ezek még jelentős fejlesztésre szorulnak.
Forrás: Wccftech — „Micron Says AI’s Memory Wall is Worsening as Compute outruns HBM Bandwidth by 3x every Two Years, Advanced Packaging & Process To Tackle Rising Thermal Constraints - Wccftech”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.