AI-ágensek költségvetési kaotikuma: egy vezérigazgató 1000 dolláros vacsora-leckéje

Branden Jenkins, a Maxio szoftvercég vezérigazgatója vacsora közben vette észre, hogy az AI-felhasználási irányítópultján 1000 dollár költség jelent meg — az automatikus feltöltésre beállított token-pénztárca szilenciósen újratöltötte a bankkártyáját. Bár Jenkins szerint ez nem jelentős összeg, az eset szimbolikus értékű lett vállalatán belül és a szélesebb amerikai üzleti szférában is, mivel jól mutatja, milyen gyorsan fogyaszthatnak el pénzt az agenikus AI-eszközök észrevétlenül.

Jenkins szerint az igazi probléma nem a váratlan számla, hanem az alkalmazottak »bizonytalansága« a technológia és az ő személyes képességei miatt. A vezérigazgató korlátlan költségvetéssel rendelkezik, míg munkatársainak jóváhagyást kell kérniük — ez pedig szervezeti feszültséget okoz. Az eset tükrözi az iparágban már jól dokumentált mintát: a Gartner szerint az agenikus AI-modellek 5-30-szor több tokent igényelhetnek, mint egy szokásos chatbot-csere, és egy WitnessAI-felmérés szerint az amerikai vállalatok 68 százaléka számolt be AI-költségvetési túllépésekről az elmúlt évben.

Jenkins az eset után kutatni kezdett a token-fogyasztás csökkentésének módjairól, és olyan optimalizálási technikákat talált, amelyeket főként a TikTokon terjedő »underground ökoszisztéma« részét képezik. Ezek közé tartoznak a »Caveman mode« (rövid, tömör válaszok, amely 70 százalékkal csökkenti a token-használatot) és a »grunt mode« (egy-két szavas válaszok). A probléma azonban az, hogy ezek az eszközök nem érhetők el a tipikus alkalmazottak számára.

Jenkins szerint az AI-bevezetés során a költségvetési túllépés mellett az »egyenlőtlenség« és »hatékonytalanság« is problémát jelent, de a legfontosabb kérdés az »bizonytalanság«. Az alkalmazottak attól félnek, hogy lemaradnak a technológiában, vagy hogy az AI helyettesítheti őket — ezt a vezetői szinten kezdődő feszültség végiggyűrűzik a szervezet több rétegén keresztül.