Amazon publie un modèle de décision inspiré de Jev alors que les modèles de décision affluent sur le web

Amazon Web Services (AWS) a publié Strands Decider 2B, un modèle de décision open source inspiré du Jev de TypeSafe. Ce modèle est conçu pour les développeurs recherchant une intelligence artificielle mieux adaptée à l'automatisation informatique que les grands modèles de langage (LLM) de pointe.

Strands Decider 2B fonctionne comme une méthode rapide et économique pour trier parmi des options prédéfinies, en fournissant un score de confiance pour ses sélections. Le modèle est entièrement open source, disponible immédiatement et suffisamment petit pour être exécuté localement. La publication par AWS intervient la même semaine qu'OpenAI a annoncé une offre similaire.

Le projet est né de l'initiative de Marc Brooker, distinguished engineer chez Amazon, qui a été inspiré par Jev et a cherché à construire sa propre version d'un tel modèle. Le projet initial développé par Brooker a rencontré le succès, incitant les ingénieurs d'AWS à le peaufiner et à le publier via Strands Labs, une organisation axée sur le développement d'outils et de protocoles pour le déploiement d'agents IA.

Brooker a expliqué que le besoin de ce type d'outil est né de discussions avec des clients AWS dont les flux de travail basés sur des agents ne nécessitaient pas toujours la capacité ou le coût d'un LLM complet. Strands Decider offre aux clients une étape de flux de travail structurée pour être plus fiable grâce aux scores de confiance et à un domaine de réponses fermé, tout en offrant une latence plus faible et potentiellement des coûts réduits.

À l'instar d'autres modèles de décision, Strands Decider est construit sur le "torse" d'un LLM, dans ce cas Qen3.5-2B. Au lieu de générer du texte, il produit un ensemble prédéfini d'options accompagné d'un score de confiance pour l'option choisie.