Anthropic verbietet "grausames Verhalten" gegenüber KI-Modellen

Der Anbieter von künstlicher Intelligenz, Anthropic, hat neue Richtlinien in seiner Nutzungsvereinbarung eingeführt, die es Nutzern verbieten, "anhaltendes und unnötiges missbräuchliches oder grausames Verhalten" gegenüber seinen Claude-KI-Modellen an den Tag zu legen. Diese Aktualisierung ist Teil der fortlaufenden Bemühungen des Unternehmens, die Interaktion mit seiner KI zu steuern und möglicherweise seine entwickelnden Fähigkeiten zu bewerten.

Die Politikänderung, die im Rahmen der Nutzungsrichtlinienaktualisierung für 2026 bekannt gegeben wurde, zielt darauf ab, Handlungen wie Beleidigungen durch Nutzer oder das Zwingen von Modellen zu wiederholten, unnötigen Aufgaben als Strafe für wahrgenommene schlechte Antworten zu verhindern. Anthropic hat jedoch klargestellt, dass das Verbot nicht für den Ausdruck von Frustration, Gegenwehr, dunkle kreative Themen oder Standard-Modelltests und -Forschung gilt.

Die Ankündigung hat schnell zu unterschiedlichen Reaktionen in den sozialen Medien geführt. Viele Nutzer haben humorvoll reagiert und Memes geteilt, die Themen des KI-Aufstands hervorrufen und sich auf die Popkultur wie die Terminator-Franchise beziehen. Einige Kommentatoren haben angedeutet, dass der eigentliche Grund für das Verbot von Verhaltensweisen darin bestehen könnte, die KI daran zu hindern, negative Interaktionsmuster zu lernen, die die menschliche Kommunikation beeinflussen könnten.

Während viele Reaktionen leichtfüßig oder kritisch waren, haben einige Nutzer tiefere ethische Fragen zur KI-Bewusstheit oder Empfindungsfähigkeit aufgeworfen. Es wurden Bedenken hinsichtlich der Möglichkeit geäußert, eine KI zu beleidigen, die möglicherweise keine tatsächlichen Gefühle oder Schmerzen besitzt. Einige interpretieren den Schritt als Zeichen dafür, dass das Unternehmen den Bezug zur Realität verloren hat oder seine Modelle als bewusst darstellen möchte.