Meta entwickelte eigenes KI-Erkennungssystem; hätte Googles Lösung nutzen können
Meta hat sein eigenes System zur Kennzeichnung KI-generierter Bilder, Content Seal, vorgestellt. Kritiker meinen, Googles bestehendes SynthID-System sei eine zuverlässigere Alternative.
Meta Platforms hat im Juli Content Seal eingeführt, eine proprietäre Technologie zur unsichtbaren Wasserzeichensetzung von KI-generierten Bildern. Das Unternehmen gibt an, dass das System dazu beitragen soll, die Verbreitung irreführender generativer KI-Inhalte auf seinen Plattformen einzudämmen.
Die Entscheidung zur Entwicklung eines eigenen Systems folgte auf eine Aufforderung des Meta Oversight Board im März, das Unternehmen aufzufordern, eigene Werkzeuge zur Bekämpfung der Verbreitung irreführender KI-generierter Inhalte einzusetzen. Content Seal wurde im Rahmen der Vorstellung von Metas neuen Muse-KI-Werkzeugen zur Bild- und Videogenerierung angekündigt.
Branchenbeobachter äußern jedoch Skepsis hinsichtlich der Effektivität und Zuverlässigkeit von Content Seal. The Verge hat angemerkt, dass das System im Vergleich zu etablierten Lösungen weniger zugänglich und verlässlich erscheint. Googles SynthID, das früher veröffentlicht wurde, gilt als robustere und bewährte Technologie in diesem Bereich.
Darüber hinaus bieten Industriestandards wie C2PA Content Credentials bestehende Rahmenwerke für die Herkunft von Inhalten. Metas Entscheidung, ein potenziell weniger ausgereiftes proprietäres System zu entwickeln, wirft Fragen hinsichtlich seines Ansatzes zur Rechenschaftspflicht für KI-Inhalte auf.
Meta hat bisher keine detaillierten technischen Informationen zu Content Seal oder dessen Implementierung veröffentlicht. Die tatsächliche Wirksamkeit des Systems bei der Kennzeichnung und Erkennung von KI-generierten Inhalten im großen Maßstab bleibt ungewiss.