Anthropic erklärt Funktionsweise von Claudes unsichtbaren Text-Wasserzeichen
Anthropic hat detailliert dargelegt, wie seine Claude-KI unsichtbare Wasserzeichen im Text implementieren wird, um die Transparenzvorschriften der EU zur künstlichen Intelligenz zu erfüllen.
Das Unternehmen für künstliche Intelligenz Anthropic hat die Methode dargelegt, mit der unsichtbare Wasserzeichen in von seiner Claude-KI generierten Texten eingebettet werden. Diese Initiative zielt darauf ab, die Transparenzanforderungen des AI Act der Europäischen Union zu erfüllen, der die Kennzeichnung synthetischer Inhalte betrifft.
Anthropic gab am Freitag bekannt, dass das Textmarkierungssystem von Claude eine „Version des SynthID-Text-Ansatzes“ verwendet. Diese Open-Source-Wasserzeichentechnologie, die von Google DeepMind entwickelt wurde, erzeugt durch die Analyse von Wortwahrscheinlichkeiten im generierten Text detektierbare Muster.
Zusätzlich zur Text-Wasserzeichenfunktion wird Claude auch den C2PA-Standard für die Bildverarbeitung unterstützen. Diese Funktionen werden eingeführt, um die Verpflichtungen von Anthropic gemäß dem EU AI Act zu erfüllen. Die Verordnung schreibt vor, dass synthetisch erstellte Audio-, Bild-, Video- und Textdateien maschinenlesbare Kennzeichnungen enthalten müssen.
Die Technologie soll es Benutzern und Aufsichtsbehörden ermöglichen, KI-generierte Inhalte von menschlich erstellten Inhalten zu unterscheiden. Die Wasserzeichen sind so konzipiert, dass sie beim normalen Lesen nicht wahrnehmbar sind und die Textqualität nicht beeinträchtigen, aber durch spezielle Analysetools erkannt werden können.