LMU-Wissenschaftler erhält DFG-Förderung für Erklärbare KI

Johannes Paetzold, Wissenschaftler an der Ludwig-Maximilians-Universität München (LMU), erhält eine Förderung von rund 2,1 Millionen Euro aus dem Emmy-Noether-Programm der Deutschen Forschungsgemeinschaft (DFG). Die Förderung erstreckt sich über einen Zeitraum von sechs Jahren und zielt auf die Entwicklung von Systemen Künstlicher Intelligenz (KI) ab, deren Entscheidungsprozesse für Menschen nachvollziehbar sind.

Moderne KI-Modelle erzielen zwar beeindruckende Ergebnisse bei der Analyse von Bildern und Texten, doch wie diese Modelle zu ihren Entscheidungen gelangen, bleibt oft eine „Blackbox“. Dieser Mangel an Transparenz stellt insbesondere in sensiblen Bereichen wie der Medizin ein erhebliches Hindernis für den zuverlässigen Einsatz dar. Paetzolds Arbeit widmet sich der Verbesserung der Verständlichkeit und Nachvollziehbarkeit dieser Modelle.

Paetzold kombiniert hierfür Methoden aus Geometrie, Topologie und Graphentheorie mit aktuellen KI-Architekturen. Die Grundidee ist, geometrische Konzepte, die dem menschlichen Denken vertraut sind – wie das Finden des kürzesten Weges oder das Erkennen eines Objekts unabhängig von seiner Lage – in KI-Systeme zu integrieren. Dies soll die KI-Systeme robuster und interpretierbarer machen.

Die Forschung konzentriert sich zunächst auf medizinische Anwendungen, wie die Früherkennung von Augen-, Gefäß- und Krebserkrankungen. Die entwickelten Methoden sind jedoch auch auf andere Bereiche anwendbar, beispielsweise die Analyse von Satellitenbildern. Langfristiges Ziel ist die Schaffung von KI-Werkzeugen, die behandelnden Ärztinnen und Ärzten verlässliche Entscheidungshilfen bieten und gleichzeitig für Patienten verständlich bleiben.