AI-loppet skiftar från stora modeller till billigare, smartare system

Kapplöpningen inom artificiell intelligens (AI) håller på att förändras. Istället för att fokusera på vem som har den största eller nyaste modellen, skiftar nu AI-företag fokus mot att skapa billigare, smartare och mer kostnadseffektiva system. Detta skifte innebär att den verkliga konkurrensen inte längre handlar om enskilda modeller, utan om de system som dirigerar och väljer rätt modell för varje specifik uppgift.

Aravind Srinivas, VD för Perplexity, menar att själva modellen inte längre är produkten. Istället är det "systemet" – "selen" eller "orkestreringssystemet" – som blir centralt. Detta system integrerar AI-modellen med olika verktyg och datakällor, och avgör när och hur olika modeller ska användas. Enklare kundtjänstuppgifter kan hanteras av billigare modeller, medan mer komplexa problem kan eskaleras till kraftfullare alternativ.

Denna utveckling kommer samtidigt som företag stramar åt sina AI-utgifter. Framväxten av öppna modeller (open-weight models), som kan laddas ner och anpassas av användarna själva, blir allt vanligare. Dessa modeller är ofta billigare att köra än proprietära, toppmoderna modeller från stora AI-laboratorier. Peter Fenton, partner på Benchmark, tror att öppna modeller snart kommer att stå för över 90 procent av all tokenproduktion.

Fenton anser att marginalerna för de ledande modellföretagen kommer att sättas under press när goda nog modeller blir tillgängliga från öppna källor utan de påslag som dagens leverantörer tar ut. Dessutom kan mindre, specialiserade modeller ibland prestera snabbare och bättre än större, generella modeller. Företag som Ollama underlättar för användare att hantera och köra dessa öppna modeller, vilket gör dem attraktivt för företag, även inom reglerade branscher.