Meta AI Bilderkennungstool versagt bei Tests mit zugeschnittenen Bildern

Metas neu vorgestelltes Werkzeug zur Erkennung von KI-generierten Bildern weist laut Reuters-Tests erhebliche Einschränkungen auf. Das Werkzeug konnte Bilder, die mit Metas eigenem Muse Image-Modell erstellt wurden, nach dem Zuschneiden nicht mehr identifizieren.

Meta führte das Muse Image-Modell zusammen mit dem Erkennungswerkzeug ein und behauptete, dass es auch nach dem Zuschneiden von Bildern Inhalte von Meta AI erkennen könne. Die Tests von Reuters zeigten jedoch, dass gängige Bearbeitungsschritte die Erkennungsfähigkeit des Werkzeugs schwächen können.

Reuters erstellte 40 Bilder mit Muse Image. Das Erkennungswerkzeug identifizierte alle Originalbilder erfolgreich. Als dieselben Bilder auf etwa ein Drittel bis die Hälfte ihrer ursprünglichen Größe zugeschnitten wurden, konnten 55 % der Bilder nicht als KI-generiert verifiziert werden.

Das Muse Image-Modell bettet einen unsichtbaren Wasserzeichen namens Content Seal in jedes generierte Bild ein. Meta hat auf seiner Website angegeben, dass das Erkennungswerkzeug über dieses Wasserzeichensystem bestätigen kann, ob ein Bild von Metas KI-Modellen generiert wurde, auch nach dem Zuschneiden.

Als Reaktion auf die Reuters-Ergebnisse betonte Meta, dass sich das Erkennungswerkzeug noch in der Vorschau befindet. Das Unternehmen räumte ein, dass das Content Seal zwar so konzipiert ist, dass sein Signal auch nach üblichen Bearbeitungen erhalten bleibt, ein starkes Zuschneiden jedoch dennoch zum Verlust des Signals führen kann.