Googles Deepfake-Erkennungssystem entlarvt manipulierte Aufnahme von McConnell

Googles SynthID-System zur Erkennung von KI-generierten Bildern wurde erfolgreich zur Entlarvung eines prominenten gefälschten Bildes des US-Senators Mitch McConnell eingesetzt. Das Bild, das den Senator fälschlicherweise im Krankenhausbett zeigte, verbreitete sich online, bevor es als Deepfake entlarvt wurde.

Das Bild wurde auf Plattformen wie Reddit und X verbreitet und löste Überprüfungen aus. Die Faktencheck-Organisation Snopes entlarvte das Bild schließlich und stellte fest, dass es Googles SynthID-Wasserzeichen enthielt, das zur Identifizierung synthetischer Medien entwickelt wurde. Dieser Einsatz zeigt die vorgesehene Funktion des Systems zur Bekämpfung von Desinformation.

Die Gesundheit von Senator McConnell war kürzlich Gegenstand öffentlicher Spekulationen. Dieser Vorfall macht deutlich, wie KI zur Erstellung irreführender Narrative eingesetzt werden kann, zeigt aber auch die Rolle von Erkennungswerkzeugen bei der Überprüfung von Authentizität.

SynthID wurde 2025 eingeführt und bettet eine unsichtbare digitale Signatur in KI-generierte Bilder ein. Dieses Wasserzeichen soll auch nach dem Teilen und Modifizieren von Bildern bestehen bleiben, um eine Verifizierung zu ermöglichen. Seine Wirksamkeit hängt jedoch von der Kooperation der Bildgenerierungswerkzeuge ab. Googles Gemini-Modelle unterstützen die Wasserzeichenerstellung seit der Einführung des Systems, und OpenAI hat sich inzwischen der Bemühungen angeschlossen.