Amazon släpper egen Jev-klon då beslutsmodeller flödar på webben

Amazon Web Services (AWS) har lanserat en öppen källkodsbeslutsmodell kallad Strands Decider 2B. Modellen är inspirerad av TypeSafen Jev och riktar sig till utvecklare som söker AI som är mer lämpad för datorautomatisering än de mest avancerade stora språkmodellerna (LLM).

Strands Decider 2B fungerar som ett snabbt och kostnadseffektivt verktyg för att sortera bland förutbestämda alternativ och leverera en mätning av hur säker den är på sitt val. Modellen är helt öppen källkod, tillgänglig och tillräckligt liten för att köras lokalt. Modellen, utvecklad av AWS, släpptes samma vecka som OpenAI meddelade ett liknande erbjudande.

Marc Brooker, distinguished engineer på Amazon, kom på projektet efter att ha sett Jev och försökt bygga en egen version av en sådan modell. Brookers ursprungliga hembyggda projekt var framgångsrikt, vilket ledde till att AWS-ingenjörer polerade det och släppte det via Strands Labs, en organisation som utvecklar nya verktyg och protokoll för att driftsätta AI-agenter.

Brooker förklarade att behovet av ett sådant verktyg uppstod i samtal med AWS-kunder, vars agentbaserade arbetsflöden inte alltid krävde kapaciteten eller kostnaden för en fullfjädrad LLM. Strands Decider erbjuder kunderna ett arbetsflödessteg som kan struktureras på ett mer tillförlitligt sätt, tack vare konfidenspoäng och ett begränsat svarsutrymme, samtidigt som det har lägre latens och potentiellt lägre kostnad.

Liksom andra beslutsmodeller bygger Strands Decider på "torso" av en stor språkmodell (LLM), i detta fall Qen3.5-2B. Istället för att generera text levererar den ett fördefinierat antal alternativ tillsammans med en konfidensgrad för sitt val.