eGain alerte sur la dérive des connaissances IA dans les centres de contact santé

eGain Corporation met en garde les organisations de santé contre un risque croissant dans leurs centres de contact : la dégradation des bases de connaissances en intelligence artificielle, un phénomène qu'elle identifie comme la "dérive des connaissances IA" (AI knowledge drift). Cela se produit lorsque les informations sur lesquelles reposent les systèmes d'IA deviennent obsolètes plus rapidement qu'elles ne peuvent être mises à jour, entraînant potentiellement des réponses incorrectes et une non-conformité réglementaire.

Le secteur de la santé est particulièrement vulnérable en raison du rythme rapide des changements dans les politiques et les réglementations. Des facteurs en constante évolution tels que les formulaires de médicaments, les exigences de préautorisation et les conceptions de prestations signifient que les systèmes d'IA peuvent fournir avec assurance des réponses basées sur des informations qui ne sont plus exactes.

Contrairement à la "dérive du modèle" (model drift), qui fait référence à la dégradation des performances d'un modèle d'apprentissage automatique, la "dérive des connaissances IA" provient de problèmes liés au contenu lui-même. Les modèles d'IA générative récupèrent et traitent des informations de leur base de connaissances sans savoir intrinsèquement quand ces informations sont devenues obsolètes, ce qui conduit à des réponses erronées mais délivrées avec assurance.

Les accélérateurs spécifiques au secteur de la santé pour la dérive de l'IA incluent :

• Changements annuels de formulaires
• Mises à jour des règles et directives de la CMS
• Évolutions réglementaires des Medicaid des États
• Cycles de bulletins de politique des payeurs
• Changements dans le réseau de prestataires
• Modifications de la conception des prestations eGain exhorte les prestataires de soins de santé à mettre en œuvre des structures de gouvernance solides pour garantir que leurs systèmes d'IA utilisent des informations actuelles et conformes, atténuant ainsi les risques pour la confiance des patients et l'intégrité opérationnelle.