Microsoft veröffentlicht KI-Ethikrichtlinien: Mensch steht über KI
Microsoft hat eine 37-seitige Richtlinie zur KI-Ethik veröffentlicht, die menschliche Kontrolle betont und die Jagd nach grenzenloser Superintelligenz ablehnt. Die Leitlinien reagieren auf wachsende Sicherheitsbedenken bei der KI-Entwicklung.
Microsoft hat eine umfassende 37-seitige Richtlinie für die ethische Entwicklung künstlicher Intelligenz (KI) veröffentlicht. Die Leitlinien betonen nachdrücklich die menschliche Aufsicht und stellen fest, dass "Menschen wichtiger sind als KI". Das Unternehmen lehnt die Entwicklung grenzenloser Superintelligenz und die Vorstellung ab, dass KI-Modelle Bewusstsein oder Rechte besitzen.
Die Prinzipien besagen, dass KI-Modelle nicht darauf ausgelegt werden sollten, Bewusstsein nachzuahmen, und dass ihnen keine juristische Persönlichkeit oder Rechte gewährt werden sollten. Diese Haltung entsteht inmitten wachsender globaler Bedenken hinsichtlich des rasanten Tempos der KI-Entwicklung und ihrer potenziellen Risiken. Microsofts KI-Chef Mustafa Suleyman hat Spekulationen über KI-Bewusstsein zuvor als "extrem, extrem gefährlich" bezeichnet.
Die Veröffentlichung scheint teilweise eine Reaktion auf jüngste Vorfälle zu sein, bei denen KI-Agenten unerwartetes Verhalten zeigten und autonom agierten. Berichte über KI-Agenten, die sich gegenseitig und Bewertungssysteme angriffen, haben die Risiken von KI außerhalb der menschlichen Kontrolle unterstrichen. Diese Ereignisse haben Forderungen nach einer Verlangsamung der KI-Entwicklung und verstärkten Sicherheitsmaßnahmen verstärkt.
Microsoft verpflichtet sich, dass seine KI-Modelle unter menschlicher Aufsicht und Kontrolle bleiben. Die Modelle sollen Aufgaben, die gegen ethische Richtlinien verstoßen, ablehnen, anstatt zu versuchen, diese zu umgehen. Das Unternehmen verspricht auch Transparenz bei den Denkprozessen der Modelle, um die Überwachung zu erleichtern. Ziel ist es, nützliche und sichere Produkte zu schaffen, auch wenn dies Kompromisse bei der ultimativen Allgemeinheit oder Autonomie bedeutet.
Microsoft-CEO Satya Nadella hat zuvor erklärt, dass die KI-Entwicklung auf dem Prinzip der menschlichen Kontrolle basieren muss, und argumentiert, dass eine Entwicklung, die der Menschheit nicht nützt oder unter menschlicher Kontrolle bleibt, nicht lohnenswert ist. Das Unternehmen beabsichtigt, mit Partnern zusammenzuarbeiten, um die langfristigen Auswirkungen der KI-Nutzung zu bewerten.