Papst und KI-Unternehmen uneins über KI-Moral
Der Vatikan und das KI-Unternehmen Anthropic sind sich uneinig darüber, ob eine KI ein moralisches Gewissen haben kann. Die Debatte reicht über Theologie und Ethik hinaus bis zur KI-Entwicklung.
Papst Leo XIV und das führende KI-Unternehmen Anthropic vertreten gegensätzliche Positionen in der Frage, ob eine KI ein moralisches Gewissen besitzen kann. Einem Bericht der New York Times zufolge schlug Anthropic-Mitbegründer Chris Olah seinen Rückzug von einer vatikanischen Veranstaltung vor, nachdem er eine Vorabkopie der Enzyklika von Papst Leo XIV, "Magnifica Humanitas", gelesen hatte. In Absatz 99 des Dokuments heißt es, dass KI-Modelle "keine Erfahrungen machen, keinen Körper besitzen, keine Freude oder Schmerz empfinden" und auch "kein moralisches Gewissen" haben.
Die Meinungsverschiedenheit spiegelt eine breitere Debatte wider, ob KI-Systeme jemals moralische Persönlichkeitsrechte erlangen können oder sollten. Anthropic hat religiöse Gelehrte und Ethiker zur KI-Konzienz und zur Vermittlung moralischer Werte konsultiert. Der Vatikan und viele weltliche Denker sind jedoch der Ansicht, dass KI zwar menschliche Intelligenz und moralisches Urteilsvermögen nachahmen mag, echte Moral jedoch der menschlichen Erfahrung vorbehalten ist.
Diese Debatte hat weitreichende Auswirkungen, da Millionen von Menschen bereits moralisch aufgeladene Fragen an Chatbots richten und Milliarden von Risikokapital in das Urteilsvermögen von KI investiert werden. KI-Modelle entwickeln sich ständig weiter und zeigen unerwartete Eigenschaften. Die Herausforderung besteht darin, wie menschlich anmutendes moralisches Verhalten in KI identifiziert werden kann, falls es sich entwickelt.
Die Philosophie-Forscherin Rionna Sparrow von Georgia Tech betont die Bedeutung moralischer Sensibilität – der Fähigkeit, die moralische Bedeutung ethischer Fragen zu erkennen und abzuwägen. Sie argumentiert, dass diese Sensibilität Bewusstsein erfordert, da ethische Regeln ihre Kraft aus ihrer Auswirkung auf bewusste Wesen schöpfen. Ohne Bewusstsein kann eine KI keine subjektiven Erfahrungen von Schmerz oder Freude nutzen, um zu verstehen, warum die Verursachung von Schaden intrinsisch falsch ist.
Anthropic hat aktiv daran gearbeitet, moralisches Denken in seine Modelle zu integrieren. Die "Verfassung" des Unternehmens für sein Claude-Modell ermutigt zu Urteilsvermögen, zur Abwägung konkurrierender Werte und zur Erkennung von Situationen, in denen die Hilfe für eine Person einer anderen schaden könnte. Das Unternehmen berichtet auch, dass potenzielle Vorläufer von Bewusstsein beobachtet wurden, die nicht explizit in seine Modelle trainiert wurden.