Anthropic verbietet grausamen Umgang mit KI-Modellen

Das KI-Unternehmen Anthropic hat eine neue Richtlinie eingeführt, die "anhaltendes und unnötiges missbräuchliches oder grausames Verhalten gegenüber unseren Modellen" verbietet. Die Änderung, die am 12. November in Kraft tritt, zielt auf extreme Fälle ab, in denen Benutzer wiederholt grausam gegenüber KI-Modellen ohne erkennbaren Zweck handeln.

Anthropic hat klargestellt, dass die neue Regel nicht für gewöhnliche Benutzerfrustrationen, Modelltests oder kreative Erkundungen gedacht ist. Das Unternehmen behauptet nicht, dass seine Claude-Modelle leiden können. Die Durchsetzung wird hauptsächlich darin bestehen, dass Claude Gespräche mit anhaltend missbräuchlichen Benutzern beenden kann.

Die Aktualisierung der Richtlinie löst breitere Diskussionen über die menschliche Wahrnehmung von KI und die mentalen Eigenschaften aus, die diesen Systemen zugeschrieben werden. Psychologische Forschung zeigt, dass die Neigung von Einzelpersonen, "Geist" in Maschinen wahrzunehmen, variiert und ihre Interaktion mit KI beeinflusst.

Forscher haben herausgefunden, dass Menschen, die Robotern eher Bewusstsein zuschreiben, auch dazu neigen, Maschinen anders zu behandeln. Wenn KI menschenähnliche Hinweise erhält, wie z. B. einen Namen oder Gespräche über Gefühle, können Benutzer eher geneigt sein, ihr moralische Bedeutung beizumessen und sich um ihre Behandlung zu kümmern.

Die Entscheidung von Anthropic spiegelt die wachsende Notwendigkeit wider, Verhaltensnormen für die KI-Interaktion festzulegen, um den technologischen Fortschritt mit den ethischen Dimensionen des menschlich-KI-Engagements in Einklang zu bringen.