Fraunhofer développe un outil pour la détection fiable d'images deepfake
Des chercheurs ont créé une nouvelle méthode hybride qui détecte de manière fiable les images générées par IA et explique le raisonnement derrière la classification. L'outil améliore significativement la précision et la transparence.
Des chercheurs de Fraunhofer ont développé un nouvel outil, RealorRender, capable de détecter les images deepfake générées par l'IA et d'expliquer le processus de classification. Cette approche hybride combine l'apprentissage profond traditionnel avec une analyse de reconstruction issue de modèles génératifs pour améliorer considérablement la précision de détection.
La méthode fonctionne en reconstruisant une image à l'aide de l'IA, puis en analysant l'erreur de reconstruction. Plus une image peut être reconstruite avec succès, plus il est probable qu'elle soit générée par l'IA. Les taux de réussite de détection varient entre 85 % et 91 %, et les méthodes d'IA explicable (XAI) mettent en évidence les zones et structures spécifiques de l'image qui ont contribué à la classification.
Le projet vise à contrer le risque croissant de désinformation posé par les images réalistes générées par l'IA. En intégrant la détection et l'explicabilité, les chercheurs cherchent à créer des systèmes plus transparents et fiables pour lutter contre la propagation de contenu manipulé.
La méthode développée a été testée sur un grand ensemble de données d'images et a démontré des performances supérieures par rapport aux techniques existantes. Les résultats sont intégrés dans un outil de démonstration destiné à aider le Bureau fédéral allemand de la sécurité des technologies de l'information (BSI) à identifier les deepfakes, fournissant aux utilisateurs les résultats de détection et des explications détaillées.