Företag drar ner på AI-trend "tokenmaxxing" när kostnaderna stiger

Företag ser nu över sina investeringar i artificiell intelligens (AI) och nedmonterar den tidigare trenden "tokenmaxxing", som innebar att man strävade efter att generera så mycket AI-innehåll som möjligt. Denna strategi har visat sig vara kostsam utan en jämförbar ökning av produktiviteten, vilket leder till en omvärdering av strategier.

"Tokenmaxxing" syftar på att maximera användningen av tokens, de grundläggande textenheterna som AI-system bearbetar. Kostnaden för dessa tokens kan snabbt ackumuleras, särskilt för mer avancerade AI-modeller. Vincent Gusdorf, chef för AI-analys på Moody's Ratings, betonar vikten av en mer disciplinerad ansats och varnar för att det är för lätt att skapa onödigt innehåll med AI.

Trenden skapade initialt en uppgång i intäkterna för ledande AI-utvecklare som OpenAI och Anthropic, där företag som Nvidia och Meta uppmuntrade hög användning. Dock har verkligheten med höga kostnader och begränsad nytta lett till en motreaktion. Microsofts VD Satya Nadella har påpekat att kunder kan betala dubbelt – både för tokens och för att dela sin proprietära data.

Istället för att använda de mest avancerade modellerna för alla uppgifter, söker företag nu verktyg för AI "modellrouting". Dessa system dirigerar enklare förfrågningar till billigare, mer effektiva modeller, medan mer komplexa uppgifter skickas till kraftfullare alternativ. Uppkomsten av kostnadseffektiva open source-modeller, särskilt från Kina, erbjuder också alternativ som utmanar de dyrare amerikanska modellerna.