SK hynix: optikai összekapcsolás az AI-infrastruktúra jövője

Az SK hynix AI Infra Team Lead-je, Seunghoon Hong és az Amerikai Egyetemek (UVA, MIT, UIUC) kutatói közös tanulmányban mutatták be, hogy a nagy teljesítményű AI-rendszerek fejlesztésében új szűk keresztmetszet alakult ki. Míg a számítási teljesítmény kétévente megháromszorozódik, az összekapcsolási sávszélesség csak 1,4-szeresére nő, létrehozva az úgynevezett »sávszélességi falat«.

A co-packaged optics (CPO) technológia optikai adóvevőket integrál közvetlenül a processzor csomagába, lehetővé téve az adatcsere fényen keresztül az elektromos vezetékek helyett. Ez csökkenti a jel terjedési távolságát, javítja az energiahatékonyságot és csökkenti az elektromágneses interferenciát. A réz-alapú összeköttetések fizikai korlátaival szemben az optikai megoldás skálázhatóbb és hatékonyabb.

A kutatók világos technikai célokat határoztak meg a következő generációs AI-infrastruktúrához: több mint 100 Tb/s sávszélesség csomópontonként, 1 pJ/bit alatti energiafogyasztás és 10 nanoszekundum alatti chip-chip késleltetés. A tanulmány részletes technológiai ütemtervet is bemutat a 2D és 3D heterogén stackelésből álló fejlődési pályáról.

A hosszú távú jövőben az optikai összekapcsolás a memória interfészéig terjedhet, egy fotonikaközpontú architektúra révén, amely közvetlenül összeköti a memória- és feldolgozó erőforrásokat. Ez lehetővé tenné több AI-gyorsító számára, hogy közös memóriakészletet használjanak, rugalmasabb rendszerszintű adatmozgást és hatékonyabb infrastruktúra-skálázást biztosítva.