Nvidia kutatása: az AI-modell mellett a szoftver-keretrendszer a valódi kulcs

Az Nvidia pénteken közzétett kutatása szerint az AI-modellek körüli szoftver-keretrendszer – az eszközök, memóriakezelés és szabályok összessége – sokkal kritikusabb az ágensek teljesítménye szempontjából, mint magának az alapmodellnek a kiválasztása. Az Anthropic Claude Opus 5 modellje egyedül csupán 30%-os pontszámot ért el az ARC-AGI-3 interaktív érvelési teszten, de egy speciális keretrendszerrel és egy »felügyelő« komponenssel ellátva 100%-os eredményt produkált.

A harness – ahogy az Nvidia szakemberei nevezik – a modell körüli teljes ökoszisztéma: memóriakezelés, kontextus-menedzselés, visszajelzések, valamint egy felügyelő ágensből álló réteg, amely az elsődleges ágensnek iránymutatást ad, ha rossz útra tér. Az Nvidia kutatói az Agentic Variation Operators (AVO) nevű fejlesztett keretrendszert hoztak létre, amely demonstrálja, hogy a nyílt forráskódú harness-megoldások nagyobb kontrollt adnak a felhasználóknak.

A kutatás összhangban van más friss tanulmányokkal: a Databricks július hónapban azt mutatta ki, hogy az azonos modell különböző keretrendszerekkel akár kétszeres költségkülönbséget is eredményezhet. Az OpenAI szintén hasonló eredményre jutott, amikor az ARC-AGI-3 teszten a harness-beállítások módosításával megháromszorozta modelljei pontszámait, bár a 100%-os teljesítményt nem érte el.

Az Nvidia vezetője, Adel El Hallak hangsúlyozta, hogy az ágensrendszer nem csupán az API-modell, hanem az infrastruktúra, a futtatási környezet és az elérhető eszközök teljes kombinációja. A cég nyílt ágensvermet szorgalmaz, amely lehetővé teszi a felhasználók számára, hogy nagyobb kontrollt gyakoroljanak a rendszer felett – különösen a biztonsági kockázatok csökkentése érdekében.