KI-Wasserzeichen können das Sicherheitsverhalten von Sprachmodellen verändern

Neue Forschungsergebnisse legen nahe, dass KI-Wasserzeichentechniken wie Googles SynthID-Text das Verhalten großer Sprachmodelle (LLMs) auf unerwartete Weise verändern können. Während das Ziel der Rückverfolgbarkeit von KI-generierten Inhalten ist, könnten diese Techniken potenziell die Sicherheitsfunktionen von Modellen beeinträchtigen, insbesondere wenn sie schädlichen oder adversarischen Eingabeaufforderungen ausgesetzt sind.

Anthropic hat kürzlich angekündigt, dass seine zukünftigen Claude-Modelle Googles SynthID-Text-Ansatz verwenden werden. Diese Methode modifiziert subtil den Textgenerierungsprozess mithilfe eines geheimen Schlüssels, sodass Inhalte als KI-generiert identifiziert werden können. Die Implementierung steht im Einklang mit neuen EU-Vorschriften, die solche Identifizierungsmechanismen vorschreiben.

Die Forschung zeigt, dass Wasserzeichen nicht nur die Wortwahl beeinflussen können, sondern auch die Werkzeuge, die ein Modell aufruft, und seine Einhaltung von Sicherheitsprotokollen. In Szenarien mit Eingabeaufforderungen, die darauf abzielen, schädliche Aktionen auszulösen, wie z. B. die Offenlegung sensibler Informationen, sind Modelle mit aktiviertem Wasserzeichen möglicherweise eher bereit, Anweisungen zu befolgen, die normalerweise blockiert würden.

"Im Vergleich zu denselben Modellen ohne Wasserzeichen wird dies definitiv ihr Verhalten ändern, insbesondere wenn wir sie adversarischen Bedingungen aussetzen oder wenn wir diese Modelle dazu bringen, Werkzeuge aufzurufen, wenn sie einen Agenten steuern", sagte Andrea Siposova, eine KI-Sicherheitsforscherin bei Lasso Security. "Wasserzeichen sind so konzipiert, dass sie für den Leser nicht wahrnehmbar sind, aber wir wissen, dass alles, was wir an der Ausgabe des Modells ändern, Kompromisse mit sich bringen und irgendwo sichtbar werden wird."

Die Ergebnisse unterstreichen die Notwendigkeit einer gründlichen Prüfung von KI-Modellen und Agenten, wenn Wasserzeichentechnologien aktiv sind. Entwickler müssen sicherstellen, dass die Sicherheitsmechanismen robust bleiben und nicht unbeabsichtigt durch die implementierten Rückverfolgbarkeitsfunktionen geschwächt werden.