Meta publie un modèle IA open source pour l'exécution locale d'agents

Meta a publié Muse Glimmer, un modèle à poids ouverts de 30 milliards de paramètres conçu pour exécuter des agents IA autonomes directement sur du matériel grand public. Cela permet aux charges de travail d'agents, normalement dépendantes de l'infrastructure cloud, de fonctionner sur des Mac et des PC haut de gamme.

Le modèle est publié sous la licence open source permissive Apache 2.0, marquant la première publication entièrement ouverte de Meta depuis son modèle propriétaire Muse Spark. La licence Apache 2.0 est plus ouverte que la licence personnalisée précédente pour la famille Llama, autorisant l'utilisation commerciale et la modification sans restriction.

Muse Glimmer est spécifiquement entraîné pour les flux de travail d'agents, offrant des capacités de planification, d'appel d'outils, d'interprétation des résultats et de récupération d'erreurs. Meta a optimisé le modèle pour l'inférence locale, capable de fonctionner sur des systèmes avec 24 Go de VRAM, permettant le traitement local de données sensibles sans transmission continue vers des serveurs distants. Le modèle prend également en charge le traitement entrelacé de texte et d'images.

Meta collabore avec des partenaires matériels tels que AMD, Arm, Dell, Intel et Nvidia pour optimiser les performances sur différents appareils. Les poids du modèle sont disponibles sur Hugging Face, et la prise en charge de divers environnements d'exécution locaux est en cours de déploiement. Meta fournit également une documentation pour les développeurs afin de créer des structures d'agents personnalisées.