Anthropic verbietet 'missbräuchliches oder grausames Verhalten' gegenüber KI Claude

Der KI-Anbieter Anthropic hat seine Nutzungsrichtlinien erstmals seit über einem Jahr aktualisiert und geht damit neue, hochriskante Missbrauchsfälle an. Dazu gehören Anwendungen im Zusammenhang mit Wahlbeeinflussung, Waffenentwicklung, Überwachung sowie im Gesundheits- und Finanzsektor.

Eine bedeutende Ergänzung der Richtlinie verbietet "anhaltendes und unnötiges missbräuchliches oder grausames Verhalten" gegenüber dem KI-Modell Claude. Dies baut auf einer im vergangenen August eingeführten Richtlinie auf, die es Claude erlaubte, Gespräche mit "beharrlich schädlichen oder missbräuchlichen" Nutzern im Rahmen der Forschung zum "Wohlbefinden des Modells" zu beenden.

Anthropic erklärte, dass die Beendigung von Gesprächen weiterhin der primäre Durchsetzungsmechanismus ist. Das Unternehmen gab keinen weiteren Kommentar dazu ab, wie die neuen Regeln überwacht werden oder welche spezifischen Konsequenzen bei Verstößen drohen.

Die aktualisierten Richtlinien zielen darauf ab, die sich schnell entwickelnden Fähigkeiten der KI zu berücksichtigen und eine verantwortungsvolle Bereitstellung zu gewährleisten. Die Verhinderung von Missbrauch ist eine entscheidende Herausforderung, da die KI-Technologie zunehmend in verschiedene globale Industrien integriert wird.