Les explications de l'IA améliorent la précision diagnostique en radiologie

Une recherche menée par la Ludwig-Maximilians-Universität München (LMU) a révélé que l'intelligence artificielle (IA) peut améliorer la précision diagnostique en radiologie, mais que son utilité dépend de la manière dont les recommandations de l'IA sont expliquées.

Les grands modèles linguistiques tels que ChatGPT sont de plus en plus considérés comme des outils de soutien en médecine. Ils peuvent résumer des informations, proposer des diagnostics et expliquer leurs évaluations de manière compréhensible. La principale conclusion de l'étude est que la qualité des explications fournies par l'IA est déterminante pour son utilité pratique.

Une équipe de recherche de la LMU, du LMU Klinikum, de l'Institut de technologie de Karlsruhe et de l'Université de Bayreuth a mené une expérience randomisée impliquant 101 radiologues. Les participants ont évalué des cas cliniques réels avec des résultats d'imagerie et devaient formuler un diagnostic. L'expérience a comparé un groupe témoin sans IA à trois groupes recevant différents types de soutien d'un modèle linguistique multimodal : un diagnostic seul, un diagnostic différentiel ou une explication séquentielle "chain-of-thought". Cette dernière détaillait de manière transparente les caractéristiques de l'image, les indices cliniques et les critères d'exclusion.

Les résultats ont montré que les radiologues obtenaient la plus grande précision diagnostique lorsqu'ils utilisaient les explications séquentielles de l'IA. Leur taux de réussite était supérieur de 12,2 points de pourcentage à celui du groupe témoin. Les simples diagnostics ou les diagnostics différentiels ont donné des résultats moins probants et pouvaient même augmenter le risque de biais d'automatisation en cas de suggestions erronées de l'IA. Les explications séquentielles ont en revanche aidé à identifier les indices corrects et à reconnaître les erreurs.

Ces résultats suggèrent que la qualité du diagnostic n'est pas la seule chose importante, mais aussi la forme de l'explication qui soutient l'évaluation critique des radiologues. Le raisonnement séquentiel rend l'argumentation du modèle visible et facilite la comparaison avec l'expertise du médecin. Selon le professeur Stefan Feuerriegel, l'un des auteurs correspondants de l'étude, ces conclusions s'étendent au-delà du domaine médical, soulignant l'importance pour les utilisateurs d'examiner et de comprendre activement les réponses générées par l'IA, plutôt que de simplement les accepter.