Anthropic fügt Claude-Inhalte Wasserzeichen hinzu angesichts von Deepfake-Bedrohungen

Das Unternehmen für künstliche Intelligenz Anthropic hat angekündigt, maschinenlesbare Wasserzeichen zu einer Standardfunktion in allen seinen Claude-Produkten weltweit zu machen. Dieser Schritt reagiert auf die wachsende Besorgnis über die Verbreitung von Deepfakes und anderen KI-generierten Inhalten, die die Unterscheidung zwischen authentischen und synthetischen Informationen erschwert.

Die neue Richtlinie gilt für Claude-Modelle, die ab dem 2. August 2026 in der Europäischen Union eingeführt werden. Ältere Modelle erhalten während einer Übergangszeit Unterstützung. Die Wasserzeichen sind verborgene Markierungen, die von Maschinen gelesen werden können, aber nicht direkt für das menschliche Auge sichtbar sind. Sie sollen im Inhalt verbleiben, unabhängig von dessen weiterer Verwendung. Für Audio, Bilder und andere Dateitypen plant Anthropic neben eingebetteten Textwasserzeichen auch signierte Metadaten zu verwenden, die dem C2PA-Standard entsprechen.

Konkurrenten wie Google haben bereits ähnliche Technologien eingeführt. Googles SynthID-System versieht von seinem Gemini-Modell generierte Texte, Bilder und Audios mit Wasserzeichen. OpenAI entwickelte zuvor ein eigenes Wasserzeichen-Tool, setzte es jedoch nicht in ChatGPT ein, aus Sorge vor möglichen falschen Anschuldigungen und Nutzerreaktionen. Anthropic räumt ein, dass ein Wasserzeichen kein endgültiger Beweis für KI-Erstellung ist, da Inhalte nachträglich bearbeitet werden können.

Laut Amitabh Kumar, CEO von Contrails AI, ist die Einführung von Wasserzeichen eine Mindestanforderung, aber er hebt hervor, dass der aktuelle Ansatz Lücken aufweist. Es bleiben Unklarheiten bezüglich der Beständigkeit von Wasserzeichen in digitalen Kopien und der Verfügbarkeit von Erkennungswerkzeugen für Dritte. In Indien haben Deepfakes bereits erheblichen Schaden verursacht, darunter gefälschte Videos von politischen Persönlichkeiten während der Wahlen und eine Zunahme von Finanzbetrug.

Es bleibt ungewiss, ob Anthropic die Herausforderungen, mit denen seine Konkurrenten konfrontiert waren, vermeiden wird. Die Wirksamkeit von Wasserzeichen hängt von offenen Erkennungswerkzeugen, der Interoperabilität zwischen Standards und davon ab, ob Unternehmen die Kennzeichnung als mehr als nur eine Checkliste zur Einhaltung von Vorschriften betrachten. Anthropic hat zugesagt, technische Leitlinien zu seinem Ansatz zu teilen, und die Branche wird beobachten, wie schnell diese Versprechen in funktionierende Markierungen umgesetzt werden.