Microsoft-Präsident befürwortet unabhängige KI-Sicherheitsbewertungen
Microsoft-Präsident Brad Smith spricht sich für unabhängige KI-Sicherheitsbewertungen aus und betont die Notwendigkeit menschlicher Kontrolle über KI-Systeme. Dies wurde bei einer UN-Tagung diskutiert.
Microsoft-Präsident Brad Smith hat die Einführung unabhängiger Prüfer zur Bewertung der Sicherheit von KI-Systemen befürwortet. Smith betonte die Notwendigkeit mehrstufiger menschlicher Kontrolle über KI.
Auf der Generalversammlung der Vereinten Nationen in New York war die Sicherheit von KI und deren globale Regulierung ein zentrales Thema. In einem Interview mit Bloomberg erklärte Smith, dass Fortschritte bei der KI-Sicherheit schwierig zu erreichen seien, wenn nur ein oder zwei Organisationen dafür verantwortlich seien. Er hob hervor, dass neben den Modellentwicklern auch Unternehmen wie Microsoft, die die Software-Schicht bereitstellen und KI-Agenten kontrollieren, von entscheidender Bedeutung sind.
Microsoft hat in Zusammenarbeit mit OpenAI einen gemeinsamen Sicherheitsausschuss eingerichtet. Dieser Ausschuss fördert die Diskussionen über KI-Sicherheit und hilft bei der Festlegung, wann Modelle zur Veröffentlichung bereit sind. Smith signalisierte auch die Unterstützung von Microsoft für die Integration von Not-Aus-Schaltern in fortschrittliche KI-Systeme, um die menschliche Aufsicht zu gewährleisten.
„Sicherheitsmechanismen müssen wirklich auf mehreren Ebenen eingesetzt werden“, sagte Smith. „Wenn man einen Not-Aus-Schalter an drei oder vier Stellen anbringen kann, warum sollte man ihn nur an einer anbringen?“
Smith räumte auch ein, dass Microsoft seine Klimaziele anpassen müsse. Das Unternehmen hatte sich zuvor verpflichtet, bis 2030 mehr Kohlenstoff aus der Atmosphäre zu entfernen, als es emittiert. Die Nutzung von Gaskraftwerken zur Energieversorgung von KI-Rechenzentren hat diesen Zeitplan jedoch erschwert. „Wir glauben nach wie vor, dass der Klimawandel eines der wichtigsten Themen dieses Jahrhunderts ist, aber wir fragen uns jetzt, ob wir diese Ziele auf die gleiche Weise erreichen können, wie wir sie uns vor sechs Jahren vorgestellt haben“, erklärte Smith. „Ich denke, wir stellen fest, dass wir einige Anpassungen vornehmen müssen.“