Google új chipje 6-10-szer gyorsabbá tenné a Gemini-válaszokat

A Google egy »Frozen v2« nevű új szerver-chip fejlesztésén dolgozik, amely a Gemini-modell szerkezetét közvetlenül a hardverbe integrálja. A The Information forrásai szerint a chip az AI-válaszok kiszolgálásánál 6-10-szer hatékonyabb lehet a jelenlegi TPU-chipekhez képest. Az eszköz 2028-tól kerülne bevetésre, kezdetben korlátozott mennyiségben.

A megoldás a Google DeepMind vezető tudósa, Jeff Dean ötletéből született. Az eredeti koncepció a modell súlyait közvetlenül a chipbe építette volna, de ezt elvetették, mert az eszköz így csak egyetlen Gemini-verzióval működött volna és gyorsan elavult volna. A »Frozen v2« rugalmasabb megközelítést választ: a modellarchitektúrát »fagyasztja be« a hardverbe, míg az új súlyok továbbra is feltölthetők maradnak.

A chip elsősorban a Google belső AI-számítási kapacitásának szűkösségét hivatott enyhíteni, és nem lesz külső termék, ellentétben a TPU-chipekkel, amelyeket a Google már Meta-nak és más felhőügyfeleknek kínál. A »Frozen v2« csak akkor működik, amíg a Google ugyanazon modellarchitektúrán marad.

Ha a chip teljesíti ígéreteit, jelentős versenyelőnyt jelenthet a Google számára. Az AI-iparban az inferencia költségoptimalizálása egyre nagyobb szerepet játszik a nyereségesség szempontjából. A technológia lehetővé tenné, hogy Google teljesítményes modelleket olcsóbb áron kínáljon, és piaci részesedést szerezzen az OpenAI és az Anthropic elől.