Anthropic verbietet „grausames“ Verhalten gegenüber seinen KI-Systemen

Das KI-Unternehmen Anthropic hat eine Debatte ausgelöst, indem es ankündigte, Nutzer von „nachhaltig und unnötig“ missbräuchlichem Verhalten gegenüber seinen KI-Systemen auszuschließen. Das Unternehmen, bekannt für sein KI-Modell Claude, hat am Donnerstag seine Nutzungsrichtlinien aktualisiert, um seinen Werkzeugen zu ermöglichen, Interaktionen mit Personen zu beenden, die „grausam“ sind.

Anthropic stellte klar, dass die Richtlinie nur in „Extremfällen“ wiederholter Misshandlung Anwendung findet. Sie wird nicht für „gewöhnliche Formen der Benutzerfrustration, des Widerstands, dunkler kreativer Themen oder Modelltests und -forschung“ gelten. Verbotene Verhaltensweisen umfassen auch das Mobbing anderer, die Förderung von Selbstverletzung und die Erstellung nicht einvernehmlicher intimer Bilder.

Was Anthropic jedoch als „missbräuchliches oder grausames Verhalten“ gegenüber seinen Modellen definiert, bleibt unklar. Screenshots der neuen Richtlinie wurden in sozialen Medien weithin geteilt und lösten gemischte Reaktionen aus. Einige loben den Schritt als Förderung des „Wohlergehens von Modellen“, während andere ihn kritisieren und argumentieren, dass KI nicht grausam behandelt werden könne und eine solche Anthropomorphisierung schädlich sei.

Die Änderungen, die auch Risiken wie irreführende Kampagnen und Wahlbeeinflussung adressieren, haben mehr Aufmerksamkeit erregt als frühere Richtlinien zu Themen wie der Waffenentwicklung. Die Diskussion spiegelt eine breitere Debatte darüber wider, wie Menschen mit KI-Werkzeugen interagieren sollten und ob unhöfliche Kommunikation menschliche Interaktionen beeinflussen könnte.