Anthropic führt Text-Wasserzeichen für Claude AI ein

Das KI-Unternehmen Anthropic führt eine neue Technik zur Identifizierung von Texten ein, die von seinem Claude-Modell erstellt wurden. Diese Methode fungiert eher als statistischer Fingerabdruck denn als traditionelles, sichtbares Wasserzeichen.

Das System funktioniert, indem es dem KI-Modell ermöglicht, bestimmte Wortwahlen bei der Vorhersage des nächsten Wortes in einem Satz zu bevorzugen. Über längere Textabschnitte hinweg erzeugen diese Präferenzen ein statistisches Muster, das Anthropic erkennen kann. Das Unternehmen betont, dass diese Kennzeichnung nicht direkt sichtbar ist, den Benutzer nicht identifiziert und nicht beweist, dass der gesamte Text von einer KI erstellt wurde. Ihre Wirksamkeit kann auch bei kurzen, faktenbasierten oder Code-lastigen Texten sowie bei erheblich bearbeiteten oder übersetzten Inhalten reduziert sein.

Anthropic gibt an, dass das Wasserzeichen die Textqualität, Geschwindigkeit oder Kosten nicht spürbar beeinträchtigt. Die Implementierung steht im Einklang mit den EU-KI-Vorschriften und Branchenkodizes, die eine Kennzeichnung von KI-generierten Inhalten fordern, was darauf hindeutet, dass die Einhaltung von Vorschriften ein wichtiger Treiber ist.

Der Artikel hinterfragt die breiteren Auswirkungen der KI-Textdetektion und weist auf ihre potenzielle Nutzung bei akademischen und preisbezogenen Bewertungen hin. Er wirft auch die Frage auf, ob die KI-Nutzung in der Bildung normalisiert werden sollte und der Fokus auf die Messung des tatsächlichen Lernens verlagert werden sollte. Der Bericht hebt die Unvollkommenheiten von KI-Detektionstools hervor, warnt vor möglichen falsch positiven Ergebnissen und untersucht die Herausforderungen bei der Identifizierung von Inhalten, die von mehreren KI-Plattformen generiert wurden.