Toyota-beszállító AI-chip: MRAM-ban tárolt modell, gyorsabb indulás
Az Aisin Group és a Tohoku Egyetem olyan AI-chip prototípusát mutatta be, amely a működőképes operációs rendszert és az AI-modelleket beágyazott MRAM-ban tárolja. A prototípus a bekapcsolástól számított milliszekundumok alatt indul, és jelentősen kevesebb energiát fogyaszt, mint a hagyományos felépítés.
A Toyota beszállítója, az Aisin Group és Tetsuo Endoh professzor csapata a Tohoku Egyetem CIES kutatóközpontjából a TSMC 16 nm-es FinFET eljárásával gyártott system-on-a-chipet fejlesztett. A chip két Arm Cortex-A53 magot, Mali-G31 GPU-t, AI-gyorsítót és 32 MiB STT-MRAM-ot tartalmaz. A MRAM-ban a kompakt Linux-rendszer rendszerindító adatai és a modellsúlyok találhatók, amelyeket a gyorsító közvetlenül érhet el.
A mérések szerint a kernel 65,7 milliszekundummal a bekapcsolás után elindul, míg a külső DRAM-ot és SSD-t használó összehasonlító rendszernek 2535,3 milliszekundumra van szüksége. Az első objektumfelismerésig 124,2 milliszekundum telik el, szemben a hagyományos rendszer 3129,9 milliszekundumával. A Tiny YOLOv3 modellel végzett képfeldolgozás 50,7 millijoule energiát igényel képenként, ami a két intézmény szerint körülbelül 98 százalékos megtakarítás. Az összehasonlító rendszer részletes felszereltségét nem közölték. A gyorsítás egy részét az adja, hogy a hagyományos rendszernek 12 MiB modellsúlyt kell az SSD-ről a DRAM-ba másolnia.
A modellt a 16×16, 16×8 és 8×8 bites számítások kombinálásával tömörítették, így az igénye 17,7 MiB-ról 9,36 MiB-ra csökkent. A csökkenés körülbelül 47 százalék, a pontosság pedig 0,325-ről 0,316 mAP-ra romlott. A kutatók a bemutatott eredmények egyetlen, viszonylag kicsi képfelismerő modellre vonatkoznak, és a chip egyelőre csak kiértékelőkártyán működött. Sorozatgyártás időpontját nem közölték, a fejlesztés részben a NEDO japán technológiai ügynökség támogatásával készült. A jövőbeli lépésként a tárolókapacitás és a számítási teljesítmény növelését jelölték meg. Az autóipari alkalmazáshoz a chipnek -40 és 125 °C közötti hőmérséklettartományt kell elviselnie, a közzétett adatokból azonban nem derül ki, hogy a prototípus ezt teljesíti-e.
Forrás: PCGH — „Toyota-Zulieferer: KI-Chip spart 98 Prozent Energie, RAM bleibt teuer - PCGH”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.