Les agents IA d'entreprise manquent de fiabilité contextuelle, selon une étude
Une nouvelle étude de VentureBeat révèle qu'une majorité d'entreprises constatent des agents IA fournissant des réponses assurées mais incorrectes, dues à un contexte manquant ou incohérent.
Les entreprises développent rapidement l'infrastructure pour alimenter les agents IA en contexte métier, mais un problème de confiance significatif persiste, selon la nouvelle étude VentureBeat Pulse Research. La majorité des organisations ont constaté que leurs agents IA fournissent avec assurance des réponses incorrectes, attribuables à un contexte manquant ou incohérent, ce qui suggère qu'un "fossé contextuel" entrave le déploiement fiable de l'IA.
Plus de la moitié (57 %) des entreprises interrogées ont rapporté que leurs agents IA ont généré des réponses erronées au cours des six derniers mois. Ces inexactitudes ont été liées à un contexte métier inadéquat ou incohérent. Ce problème est répandu, la génération augmentée par récupération (RAG) servant désormais de source de contexte principale pour 38 % des entreprises. Lorsque ce système de récupération est limité ou incohérent, les erreurs générées érodent l'autorité de l'agent IA.
Alors que des solutions telles qu'une couche sémantique gouvernée émergent, 58 % des entreprises en construisant ou en mettant déjà en œuvre une, le marché se consolide de manière inattendue. Les outils de récupération natifs des fournisseurs, tels que la recherche de fichiers d'OpenAI (40 %) et Vertex AI Search de Google (38 %), devancent les bases de données vectorielles dédiées. La récupération hybride devrait également dominer d'ici 2026.
Malgré l'adoption pratique des outils natifs des fournisseurs, une part notable (36 %) des entreprises a l'intention de conserver des solutions autonomes "best-of-breed" plutôt que de se consolider. Parallèlement, une majorité (57 %) prévoit de changer ou d'ajouter de nouveaux fournisseurs au cours de l'année à venir, ce qui indique une divergence entre les préférences déclarées et l'utilisation réelle.
L'étude, portant sur 101 entreprises, met en évidence les tendances directionnelles des couches de contexte IA dans le secteur des entreprises. La nature limitée et auto-sélectionnée de l'échantillon suggère que les résultats doivent être considérés comme des signaux indicatifs plutôt que des mesures précises.