Les outils IA de Microsoft augmentent leur vitesse de 400% et réduisent la consommation de tokens

Microsoft a annoncé une avancée technologique significative pour ses agents IA, tels que Copilot, destinés aux scénarios d'entreprise à forte intensité de connaissances. Cette nouvelle technologie, développée sans mise à niveau des grands modèles fondamentaux, augmente apparemment la vitesse de réponse des agents IA jusqu'à quatre fois et réduit la consommation de tokens d'environ 30 %.

Précédemment, l'accès et le traitement d'informations fragmentées, dispersées dans les e-mails, les comptes-rendus de réunions et les documents techniques des environnements d'entreprise, entraînaient une latence élevée et des coûts de calcul importants pour les agents IA. Cela obligeait souvent les agents à récupérer et à traiter individuellement diverses sources de données.

Cette avancée utilise le moteur de compilation de connaissances "Work IQ" de Microsoft. Ce moteur transforme automatiquement les informations dispersées d'une organisation en une base de connaissances structurée. Les agents IA peuvent ensuite interroger directement et efficacement cette base de connaissances compilée, améliorant les performances pour des tâches telles que la réponse aux questions inter-documents, la récupération du contexte d'équipe et la synthèse.

Cette fonctionnalité est actuellement déployée auprès des locataires "Frontier Preview". Les organisations peuvent ajouter ces bases de connaissances à des sites SharePoint existants, qui prennent également en charge les canaux Teams et les groupes Microsoft 365. Microsoft prévoit d'étendre cette capacité aux agents personnalisés via Copilot Studio et de développer des fonctionnalités de maintenance automatisée pour maintenir la synchronisation des bases de connaissances avec l'évolution du contenu de l'entreprise.