Reply présente l'architecture RAG pour la gestion des connaissances d'entreprise
Reply a introduit une architecture de génération augmentée par récupération (RAG) qui connecte les grands modèles linguistiques aux documents d'entreprise pour améliorer la gestion des connaissances. La solution vise à réduire les réponses incorrectes et à améliorer la précision de la récupération d'informations.
La société de services informatiques Reply a lancé une nouvelle solution pour la gestion des connaissances d'entreprise en utilisant l'architecture de génération augmentée par récupération (RAG). Cette technologie intègre de grands modèles linguistiques (LLM) aux sources de données internes d'une entreprise, telles que les documents et les wikis, afin d'améliorer la recherche d'informations et de réduire les réponses erronées.
L'architecture RAG répond au défi que posent les entreprises disposant de vastes quantités d'informations difficiles d'accès. Le système RAG permet aux LLM de répondre à des questions en exploitant les données internes de l'entreprise, sans que le modèle n'ait besoin de mémoriser l'ensemble du corpus. Au lieu de cela, le modèle récupère le contexte pertinent au moment de la requête et génère des réponses basées sur ces informations, y compris des citations de sources.
Reply souligne qu'un système RAG bien implémenté réduit les hallucinations, maintient les réponses à jour et fonctionne sur la base des données d'entreprise existantes. L'entreprise note que les travailleurs du savoir peuvent passer jusqu'à un cinquième de leur temps à rechercher des informations, et qu'une solution RAG peut rediriger ce temps vers des activités plus productives. L'architecture RAG est structurée en cinq couches : ingestion et segmentation des données, intégration et stockage vectoriel, récupération, augmentation et génération, et évaluation et gouvernance.
Reply met en garde contre les erreurs d'implémentation courantes des systèmes RAG, qui concernent souvent la couche de récupération plutôt que la génération. Une mauvaise segmentation des données, le choix d'un modèle d'intégration incorrect ou l'absence de réordonnancement des résultats peuvent amener le modèle à recevoir le mauvais contexte et, par conséquent, à générer des réponses inexactes. L'entreprise souligne la nécessité d'un cadre d'évaluation complet pour mesurer la précision de la récupération, l'exactitude des réponses et la justesse des citations de sources dans les systèmes RAG prêts pour la production.