Googles SynthID-Wasserzeichen schwer zu brechen, löst aber KI-Fehlinformationen nicht

Googles SynthID-Wasserzeichentechnologie, die zur Identifizierung KI-generierter Inhalte entwickelt wurde, hat sich als schwer zu brechen erwiesen. Während die Technologie dabei helfen kann, digital manipulierte oder erstellte Materialien von authentischen Inhalten zu unterscheiden, wird ihre Fähigkeit, das Problem der KI-gesteuerten Fehlinformationen zu lösen, als begrenzt angesehen.

Schätzungen zufolge hat KI die Geschwindigkeit der Inhaltserstellung revolutioniert. Laut Starling Lab, einer Forschungskooperation der Stanford University und der University of Southern California, benötigte KI nur 18 Monate, um 1,5 Milliarden Bilder zu generieren – eine Leistung, für die die Fotografie 149 Jahre benötigte.

Google gab Anfang dieses Jahres bekannt, dass seine Werkzeuge in nur wenigen Jahren zur Produktion von über 100 Milliarden KI-Bildern und -Videos verwendet wurden. Das Unternehmen hat die Nutzung seiner SynthID-Technologie durch verschiedene Partnerschaften erweitert.

Die Technologie zielt darauf ab, einen Standard für die Kennzeichnung von KI-generierten Medien zu etablieren. Forscher warnen jedoch davor, dass ein Wasserzeichen allein möglicherweise nicht ausreicht, um die Verbreitung von manipulierten Inhalten zu verhindern und deren potenzielle Schäden zu mindern.