KI-Erklärungen verbessern diagnostische Genauigkeit in der Radiologie

Eine Forschungsgruppe der Ludwig-Maximilians-Universität München (LMU) hat untersucht, wie Erklärungen von KI-Modellen die diagnostische Genauigkeit in der Radiologie beeinflussen. Die Ergebnisse deuten darauf hin, dass nicht nur die Diagnosevorschläge selbst, sondern vor allem die Art und Weise, wie diese erklärt werden, entscheidend für die Unterstützung von Ärzten ist.

Große Sprachmodelle wie ChatGPT werden zunehmend als Werkzeuge in der Medizin diskutiert. Sie können Diagnosen vorschlagen und ihre Einschätzungen begründen. Die LMU-Studie konzentrierte sich darauf, welche Form von Erklärung radiologischen Fachkräften am besten hilft, um die diagnostische Genauigkeit zu erhöhen.

In einem Experiment mit 101 Radiologen wurden verschiedene Formen der KI-Unterstützung verglichen. Eine Gruppe arbeitete ohne KI, während drei Gruppen KI-Hinweise erhielten: entweder nur eine Diagnose, eine Differenzialdiagnose oder eine schrittweise „Chain-of-Thought“-Erklärung. Letztere erläuterte Bildmerkmale und klinische Hinweise detailliert und nachvollziehbar.

Die Studie zeigte, dass die Gruppe, die schrittweise Erklärungen erhielt, die höchste diagnostische Genauigkeit erzielte. Dies war ein Anstieg von 12,2 Prozentpunkten im Vergleich zur Kontrollgruppe ohne KI. Einfache Diagnosen oder Differenzialdiagnosen waren weniger effektiv und konnten bei Fehlern sogar zu einer stärkeren Abhängigkeit von der KI führen. Die schrittweisen Erklärungen halfen den Radiologen, die Empfehlungen kritisch zu prüfen und Fehler zu erkennen.

Professor Stefan Feuerriegel, einer der Hauptautoren der Studie, betont, dass die Ergebnisse über die Radiologie hinaus relevant sind. Sie unterstreichen die Bedeutung einer nachvollziehbaren Begründung bei der Nutzung von KI-Systemen. Eine gute KI-Antwort sei nicht nur korrekt, sondern auch überprüfbar, was für die medizinische Praxis unerlässlich sei.