eGain warnt vor veraltenden KI-Wissensdatenbanken im Gesundheitswesen

eGain Corporation warnt Organisationen im Gesundheitswesen vor einem wachsenden Risiko in ihren Kontaktzentren: der Veralterung von Wissensdatenbanken künstlicher Intelligenz, ein Phänomen, das als "AI knowledge drift" bezeichnet wird. Dies geschieht, wenn die Informationen, auf die KI-Systeme angewiesen sind, schneller veralten, als sie aktualisiert werden können, was potenziell zu falschen Antworten und regulatorischer Nichteinhaltung führen kann.

Die Gesundheitsbranche ist aufgrund des rasanten Wandels von Richtlinien und Vorschriften besonders anfällig für dieses Problem. Sich ständig ändernde Faktoren wie Medikamentenverzeichnisse, Anforderungen an die Vorabgenehmigung und Leistungskonstruktionen bedeuten, dass KI-Systeme zuversichtlich Antworten auf der Grundlage von Informationen liefern können, die nicht mehr korrekt sind.

Im Gegensatz zum "Model Drift", der sich auf die Leistungsverschlechterung eines Machine-Learning-Modells bezieht, ist "AI knowledge drift" auf Probleme mit dem Inhalt selbst zurückzuführen. Generative KI-Modelle rufen Informationen aus ihrer Wissensdatenbank ab und verarbeiten sie, ohne von Natur aus zu wissen, wann diese Informationen veraltet sind, was zu fehlerhaften, aber zuversichtlich gelieferten Antworten führt.

Wichtige branchenspezifische Beschleuniger für AI Drift im Gesundheitswesen sind:

• Jährliche Änderungen der Arzneimittelverzeichnisse
• Aktualisierungen von CMS-Regeln und -Leitlinien
• Änderungen der Medicaid-Vorschriften der Bundesstaaten
• Zyklen von Policy-Bulletins der Zahler
• Änderungen im Anbieternetzwerk
• Anpassungen des Leistungssystems eGain fordert Anbieter im Gesundheitswesen dringend auf, robuste Governance-Strukturen zu implementieren, um sicherzustellen, dass ihre KI-Systeme aktuelle und konforme Informationen verwenden und somit Risiken für das Vertrauen der Patienten und die operative Integrität mindern.