LMU-forskare får finansiering för utveckling av förklarbar KI

Johannes Paetzold, forskare vid Ludwig-Maximilians-Universität München (LMU), har beviljats cirka 2,1 miljoner euro i finansiering från Tysklands forskningsstiftelse (DFG) genom Emmy Noether-programmet. Finansieringen sträcker sig över sex år och syftar till att utveckla system för artificiell intelligens (KI) vars beslut är begripliga för människor.

Moderna KI-modeller uppnår imponerande resultat inom bild- och textanalys, men hur dessa modeller fattar sina beslut är ofta oklart. Denna brist på transparens utgör ett hinder, särskilt inom känsliga områden som medicin. Paetzolds forskning fokuserar på att förbättra förståelsen för och begripligheten av dessa modeller.

För att uppnå detta kombinerar Paetzold metoder från geometri, topologi och grafteori med nuvarande KI-arkitekturer. Grundidén är att integrera geometriska koncept, som liknar mänskligt tänkande – till exempel att hitta den kortaste vägen eller att känna igen ett objekt oberoende av dess position – i KI-system. Detta förväntas göra systemen mer robusta och tolkningsbara.

Forskningen kommer initialt att fokusera på medicinska tillämpningar såsom tidig upptäckt av ögon-, kärl- och cancerrelaterade sjukdomar. Metoderna är dock generellt tillämpliga och kan även användas för exempelvis analys av satellitbilder. Målet är att skapa KI-verktyg som kan erbjuda pålitligt beslutsstöd för vårdpersonal och samtidigt vara förståeliga för patienter.