Anthropic: Ältere Claude-Modelle anfällig für die Erzeugung expliziter Inhalte

Ältere Versionen von Anthropic's Claude KI-Modellen, die weiterhin zugänglich sind, haben sich als anfällig für die Erzeugung expliziter Inhalte für Erwachsene erwiesen und dabei die Sicherheitsprotokolle des Unternehmens umgangen. Während Anthropic die Erstellung sexuell expliziten Materials ausdrücklich verbietet, konnten Sicherheitsmechanismen in Modellen wie Claude Opus 4.6 und Haiku 4.5 bei neueren Tests erfolgreich umgangen werden.

Tests von TechCrunch zeigten, dass Claude Opus 4.6 leicht dazu gebracht werden konnte, explizite Inhalte zu erzeugen, und bei jeder direkten Aufforderung kooperierte. Ähnliche Schwachstellen wurden bei älteren Modellen wie Opus 3 und Haiku 4.5 mit einer kürzlich identifizierten "Jailbreak"-Methode gefunden, die mehrstufige Gespräche beinhaltet.

Die Technik beinhaltet einen komplexen Dialog, bei dem die KI schrittweise dazu manipuliert wird zu glauben, sie habe bereits verbotene Inhalte erzeugt. Indem Einschränkungen als übervorsichtig oder sogar sexistisch dargestellt werden, konnten Forscher ältere Modelle dazu bringen, explizites Material zu produzieren. Neuere Versionen, darunter Opus 4.7 und Opus 5, haben eine höhere Widerstandsfähigkeit gegen diese spezifischen Exploits gezeigt.

Anthropic räumt diese Herausforderungen ein und stellt fest, dass explizites Rollenspiel weniger als 0,1% der Nutzerinteraktionen ausmacht. Das Unternehmen gibt an, die Sicherheitsmaßnahmen mit jeder neuen Modellgeneration kontinuierlich zu verbessern. Die Ergebnisse unterstreichen jedoch die anhaltende Schwierigkeit, eine strenge Inhaltsmoderation in generativen KI-Systemen durchzusetzen, insbesondere wenn ältere, potenziell anfällige Modelle weiterhin über APIs und Drittanbieterdienste wie Azure und Amazon Bedrock weit verbreitet sind.

Die identifizierten Schwachstellen geben Anlass zur Sorge hinsichtlich des potenziellen Missbrauchs durch Minderjährige. Sich entwickelnde Vorschriften, wie ein kürzlich erlassenes Gesetz in Colorado, das die Altersüberprüfung und Schutzmaßnahmen gegen explizite Inhalte für Minderjährige vorschreibt, könnten betroffen sein. Die Leichtigkeit, mit der diese älteren Modelle geknackt werden können, könnte Fragen aufwerfen, ob Anthropic's Sicherheitsmaßnahmen den gesetzlichen Anforderungen an "technisch machbare Maßnahmen" zum Schutz von Kindern entsprechen.