La gouvernance des données IA en entreprise révèle deux fois plus de réponses erronées
Une nouvelle étude révèle que 68 % des entreprises ont identifié des agents IA fournissant des réponses incorrectes avec assurance, en raison d'un contexte métier manquant ou incohérent. Ce problème est plus fréquent dans les entreprises dotées d'une couche sémantique gérée.
Le contexte fourni aux agents IA échoue fréquemment au sein des entreprises, selon la recherche Pulse de VentureBeat. Au cours des six derniers mois, 68 % des entreprises ont attribué des réponses d'agents IA, bien qu'assurées, à un contexte métier manquant ou incohérent. Le plus souvent, ces échecs ne sont pas isolés mais récurrents.
De manière contre-intuitive, les entreprises qui construisent ou exploitent une couche sémantique gérée, fournissant des définitions et relations spécifiques à l'entreprise, signalent des échecs récurrents plus de deux fois plus souvent que celles qui n'en disposent pas. Cette couche sémantique ne cause pas les échecs, mais permet de les détecter et de les tracer plus efficacement.
La recherche, menée auprès de 101 entreprises, suggère que l'échec du contexte n'est plus une anomalie mais une condition. Trente-sept pour cent des entreprises signalent des échecs récurrents, contre 32 % qui les ont rencontrés une seule fois. La majorité de ces problèmes découlent de carences dans le contexte des données plutôt que d'erreurs de modèle.
La solution adoptée par l'industrie, une couche sémantique ou de contexte gérée, gagne du terrain : 32 % des entreprises l'utilisent en production, et 31 % supplémentaires la testent ou la construisent. La correction des réponses est la principale métrique de succès pour 38 % des entreprises, indiquant un passage de la priorité de la simple gestion des données à celle de la gouvernance du contexte.