Le système de détection de deepfakes de Google a déjoué une fausse image de McConnell
Le système SynthID de Google a identifié et déjoué avec succès une image générée par IA représentant le sénateur Mitch McConnell dans une situation hospitalière fabriquée. Ceci marque une application concrète significative pour la technologie conçue pour combattre les deepfakes.
Le système SynthID de Google, développé pour détecter les images générées par IA, a été utilisé pour déjouer une fausse photographie très médiatisée du sénateur américain Mitch McConnell. L'image, qui montrait à tort le sénateur alité à l'hôpital, avait pris de l'ampleur en ligne avant d'être révélée comme un deepfake.
La photo a circulé largement sur des plateformes telles que Reddit et X, suscitant des interrogations. L'organisation de vérification des faits Snopes a finalement réfuté l'image, notant qu'elle contenait le filigrane SynthID de Google, conçu pour identifier les médias synthétiques. Cette application démontre la fonction prévue du système dans la lutte contre la désinformation.
La santé du sénateur McConnell a récemment fait l'objet de spéculations publiques. Cet incident met en évidence le potentiel de l'IA pour créer des récits trompeurs, tout en soulignant le rôle des outils de détection dans la vérification de l'authenticité.
Lancé en 2025, SynthID intègre une signature numérique invisible dans les images générées par IA. Ce filigrane est conçu pour persister lors du partage et des modifications, permettant ainsi la vérification. Cependant, son efficacité dépend de la coopération des outils de génération d'images. Les modèles Gemini de Google prennent en charge le filigrane depuis la création du système, et OpenAI a depuis rejoint l'initiative.