Writer lanserar AI-modell som sänker kostnader med 52%

Writer, som tillhandahåller AI-agentplattformar till företag som Accenture och Uber, har lanserat sin nya flaggskeppsmodell Palmyra X6. Företaget hävdar att den nya modellen opererar med 52% lägre kostnader, 48% förbättrad hastighet och 10% ökad kvalitet.

Palmyra X6 är en vidareutvecklad version av GLM-5.2, en öppen modell från Zhipu AI. Writer betonar dock att modellen är fullständigt tränad och körs på deras egen infrastruktur i USA, vilket adresserar debatten kring användning av kinesiska open-source-fundament.

Lanseringen sker i en tid då kostnaderna för AI-agenter blir en allt viktigare faktor för företag. Till skillnad från chattbottar, som genererar ett svar per förfrågan, kan AI-agenter utföra komplexa uppgifter som kräver flera steg och därmed förbrukar fler tokens. Goldman Sachs förutspår en kraftig ökning av token-förbrukningen de kommande åren.

"Det största hindret idag för företagsutvidgning med AI är inte modellernas kapacitet, utan kostnaderna", sade Matan-Paul Shetrit, produktledare på Writer. Företaget ser kostnadsbesparingar som nyckeln till att låsa upp nya användningsområden för AI inom organisationer.

Writer menar att sänkta kostnader per uppgift breddar marknaden för deras tjänster. Detta liknar molntjänsternas utveckling, där enheterpriser sjönk samtidigt som den totala konsumtionen och därmed fakturorna ökade.