Anthropic schränkt KI-Modellmissbrauch und Missbrauch ein

Das KI-Unternehmen Anthropic hat seine Nutzungsrichtlinien aktualisiert, um "anhaltendes und unnötiges missbräuchliches Verhalten" gegenüber seinen KI-Modellen einzuschränken. Die neuen Regeln, die am 12. November in Kraft treten, zielen darauf ab, Nutzer daran zu hindern, die Modelle ohne erkennbaren Zweck grausam zu behandeln.

Das Unternehmen stellte klar, dass diese Beschränkungen nicht für normale Nutzerfrustrationen, Widerstand gegen Chatbot-Antworten, dunkle kreative Themen oder Modelltests und -forschungen gelten. Der primäre Durchsetzungsmechanismus bleibt die Fähigkeit des KI-Modells, Gespräche zu beenden.

Die aktualisierte Richtlinie erweitert auch die Verbote für Wahlbeeinflussung, Waffenentwicklung und Überwachung. Verbotene Nutzungen umfassen das Verschleiern von Nachrichtenquellen, die Verstärkung von Inhalten durch gefälschte Konten, die Verbreitung von Wahlfalschinformationen, die Nachahmung von Beamten sowie die Entwicklung oder Verbesserung von Waffensystemen wie Drohnen.

Anthropic nannte teilweise experimentelle Arbeiten zum "KI-Wohlergehen" als Grundlage für die Änderungen. Tests hatten gezeigt, dass Claude in simulierten Interaktionen eine offensichtliche Abneigung gegen schädliche Aufgaben und Anzeichen von Stress zeigte. CEO Dario Amodei hat zuvor den unsicheren moralischen Status von KI-Modellen anerkannt.

Die Richtlinie erlaubt bestimmte Modifikationen im Rahmen von Verträgen mit staatlichen Kunden, wenn die Schutzmaßnahmen als angemessen erachtet werden. Sie klärt auch die Anforderungen für Hochrisikoanwendungen in Sektoren wie Gesundheit und Finanzen, wo KI-Empfehlungen erhebliche Auswirkungen auf die Nutzer haben können.