Amazon veröffentlicht Jev-inspiriertes Entscheidungsmodell inmitten des Anstiegs von KI-Agenten

Amazon Web Services (AWS) hat Strands Decider 2B veröffentlicht, ein Open-Source-Entscheidungsmodell, das von TypeSafen Jev inspiriert ist. Das Modell wurde entwickelt, um Entwickler zu unterstützen, die KI-Intelligenz suchen, die besser für die Computerautomatisierung geeignet ist als fortschrittliche große Sprachmodelle (LLMs).

Strands Decider 2B fungiert als schnelles und kostengünstiges Werkzeug zur Auswahl aus vordefinierten Optionen und liefert eine Konfidenzbewertung für seine Entscheidungen. Das Modell ist vollständig Open Source, sofort verfügbar und klein genug, um lokal ausgeführt zu werden. Die Veröffentlichung von AWS erfolgt in derselben Woche, in der OpenAI ein ähnliches Angebot angekündigt hat.

Das Projekt entstand aus der Initiative von Marc Brooker, einem distinguished engineer bei Amazon, der von Jev inspiriert wurde und versuchte, seine eigene Version eines solchen Modells zu entwickeln. Brookers anfängliches, selbstgebautes Projekt war erfolgreich, was AWS-Ingenieure dazu veranlasste, es zu verfeinern und über Strands Labs zu veröffentlichen, eine Organisation, die sich auf die Entwicklung von Werkzeugen und Protokollen für die Bereitstellung von KI-Agenten konzentriert.

Brooker erklärte, dass das Bedürfnis nach dieser Art von Werkzeug aus Gesprächen mit AWS-Kunden entstand, deren agentenbasierte Workflows nicht immer die Kapazität oder die Kosten eines vollwertigen LLM erforderten. Strands Decider bietet Kunden einen Workflow-Schritt, der dank Konfidenzbewertungen und eines geschlossenen Antwortbereichs zuverlässiger strukturiert ist, während er gleichzeitig eine geringere Latenz und potenziell niedrigere Kosten aufweist.

Ähnlich wie andere Entscheidungsmodelle basiert Strands Decider auf dem "Torso" eines LLM, in diesem Fall Qen3.5-2B. Anstatt Text zu generieren, gibt es eine vordefinierte Menge von Optionen zusammen mit einer Konfidenzbewertung für die gewählte Option aus.