CRIF et l'université de Modène collaborent sur l'explicabilité de l'IA
Le groupe CRIF et l'Université de Modène et Reggio d'Émilie ont développé une méthode pour rendre les décisions de crédit par IA plus transparentes et actionnables.
CRIF a établi un partenariat de recherche avec le laboratoire d'analyse de données de l'Université de Modène et Reggio d'Émilie (UNIMORE) pour améliorer la transparence des systèmes d'intelligence artificielle utilisés dans le secteur financier. Le projet se concentre sur les explications contrefactuelles, une technique permettant d'identifier les changements précis dans les données d'entrée nécessaires pour inverser une décision automatisée.
Ces avancées ont été intégrées dans la plateforme décisionnelle ORCHESTRA de CRIF. L'objectif est de transformer des modèles de données complexes en recommandations pratiques, permettant par exemple aux prêteurs d'expliquer pourquoi une demande a été refusée et de proposer des pistes concrètes pour une amélioration future du profil de crédit.
Ce projet répond à un besoin croissant de gouvernance et de conformité réglementaire face à l'adoption généralisée de l'IA. En combinant ces outils d'explicabilité avec des règles métier strictes, CRIF cherche à renforcer la confiance dans les processus automatisés tout en garantissant un contrôle humain adéquat sur les décisions de crédit.