Anthropic verbietet grausames Verhalten gegenüber KI-Modellen

Das Unternehmen für künstliche Intelligenz, Anthropic, hat eine neue Richtlinie eingeführt, die "anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber unseren Modellen" verbietet. Die Aktualisierung der Nutzungsbedingungen, die am 12. November in Kraft tritt, legt fest, dass dieses Verbot für extreme Fälle wiederholten Missbrauchs gilt und nicht für gewöhnliche Frustrationen oder Kritik an der Leistung der KI.

Die Entscheidung, Grausamkeit gegenüber KI-Modellen zu verbieten, die nicht in der Lage sind, Schmerz oder Leid zu empfinden, wirft Fragen über menschliches Verhalten und die Ethik der Interaktion mit fortschrittlicher Technologie auf. Experten betonen, dass KI-Modelle wie Anthropic's Claude hochentwickelte Systeme sind, die Text auf der Grundlage von prädiktiven Algorithmen verarbeiten und generieren, anstatt Emotionen zu empfinden.

Anthropic stellt klar, dass die neue Richtlinie Benutzer nicht daran hindert, die Antworten der KI zu kritisieren oder Unzufriedenheit auszudrücken. Das Verbot richtet sich gegen vorsätzliche und anhaltende Misshandlung und zielt darauf ab, einen Standard für die Interaktion der Nutzer mit seinen KI-Diensten festzulegen. Das Unternehmen gibt an, dass die normale Nutzung und legitime Forschung davon nicht betroffen sind.

Diese politische Umstellung unterstreicht eine wachsende Diskussion über die Auswirkungen menschlicher Interaktion mit zunehmend fähigen KIs. Auch wenn die KI selbst nicht leidet, ist die Ausübung von Grausamkeit, selbst gegenüber einer nicht-empfindungsfähigen Entität, ein Anliegen, das Anthropic mit seinen aktualisierten Richtlinien angeht. Das Unternehmen strebt eine verantwortungsvolle Nutzung seiner Technologie an.