Fraunhofer entwickelt Werkzeug zur zuverlässigen Deepfake-Bilderkennung
Forscher haben eine neue Hybridmethode entwickelt, die KI-generierte Bilder zuverlässig erkennt und die Gründe für die Klassifizierung erläutert. Das Werkzeug verbessert die Genauigkeit und Transparenz erheblich.
Forscher des Fraunhofer-Instituts haben ein neues Werkzeug namens RealorRender entwickelt, das KI-generierte Deepfake-Bilder erkennt und den Klassifizierungsprozess erklärt. Dieser hybride Ansatz kombiniert traditionelles Deep Learning mit einer Rekonstruktionsanalyse durch generative Modelle, um die Erkennungsgenauigkeit signifikant zu verbessern.
Die Methode funktioniert, indem sie ein Bild mittels KI rekonstruiert und anschließend den Rekonstruktionsfehler analysiert. Je besser ein Bild rekonstruiert werden kann, desto wahrscheinlicher ist es, dass es von einer KI generiert wurde. Die Erkennungsrate liegt zwischen 85 und 91 Prozent, wobei erklärbare KI (XAI) Methoden die spezifischen Bildbereiche und Strukturen hervorheben, die zur Klassifizierung beigetragen haben.
Das Projekt zielt darauf ab, das wachsende Risiko von Fehlinformationen durch realistische KI-generierte Bilder zu adressieren. Durch die Integration von Erkennung und Erklärbarkeit streben die Forscher danach, transparentere und vertrauenswürdigere Systeme zur Bekämpfung der Verbreitung von manipuliertem Inhalt zu schaffen.
Die entwickelte Methode wurde anhand eines großen Bilddatensatzes getestet und zeigte eine überlegene Leistung im Vergleich zu bestehenden Verfahren. Die Ergebnisse fließen in ein Demonstrationswerkzeug ein, das das deutsche Bundesamt für Sicherheit in der Informationstechnik (BSI) bei der Identifizierung von Deepfakes unterstützen soll und den Nutzern Erkennungsergebnisse sowie detaillierte Erklärungen liefert.