Un chercheur de LMU reçoit un financement de la DFG pour l'IA explicable

Johannes Paetzold, chercheur à l'Université Louis-et-Maximilien de Munich (LMU), a reçu un financement d'environ 2,1 millions d'euros du programme Emmy Noether de la Fondation allemande pour la recherche (DFG). Ce financement, s'étalant sur six ans, vise à développer des systèmes d'intelligence artificielle (IA) dont les processus décisionnels sont compréhensibles par les humains.

Bien que les modèles d'IA actuels obtiennent des résultats impressionnants dans l'analyse d'images et de textes, les mécanismes sous-jacents à leurs décisions restent souvent opaques. Ce manque de transparence constitue un obstacle majeur, en particulier dans des domaines critiques comme la médecine, où il entrave une mise en œuvre fiable. Les travaux de Paetzold visent à remédier à ce problème en améliorant la compréhension et la traçabilité des modèles d'IA.

Pour ce faire, Paetzold combine des méthodes issues de la géométrie, de la topologie et de la théorie des graphes avec les architectures d'IA contemporaines. L'idée fondamentale est d'intégrer dans les systèmes d'IA des concepts géométriques familiers à la cognition humaine, tels que la recherche du chemin le plus court ou la reconnaissance d'un objet indépendamment de son orientation. Ceci devrait rendre les systèmes d'IA plus robustes et plus interprétables.

La recherche se concentrera initialement sur des applications médicales, notamment la détection précoce de maladies oculaires, vasculaires et cancéreuses. Cependant, les méthodes développées sont également applicables à d'autres domaines, comme l'analyse d'images satellitaires. L'objectif à long terme est de créer des outils d'IA offrant un soutien décisionnel fiable aux professionnels de la santé tout en restant compréhensibles pour les patients.