Microsoft-CEO warnt vor KI-Risiken, fordert menschliche Kontrolle und breitere Tests

Microsoft CEO Satya Nadella hat ein internes Memo veröffentlicht, in dem er vor dem schnellen Fortschritt der künstlichen Intelligenz (KI) warnt und die Notwendigkeit betont, dass KI unter menschlicher Kontrolle bleibt. Nadella hob die Notwendigkeit umfassender Tests durch Dritte hervor und forderte das Unternehmen auf, ausreichend Zeit für die Gewährleistung der technologischen Sicherheit aufzuwenden, und warnte davor, die Entwicklung bei steigenden Risiken zu überstürzen.

Nadella umriss drei zentrale Bereiche für die KI-Entwicklung: klare Designziele, die Sicherstellung der Kundenkontrolle und die Gewährleistung von Vorteilen für lokale Gemeinschaften. Er betonte, dass KI der Gesellschaft insgesamt zugutekommen sollte und dass Entwickler sicherstellen müssen, dass Kunden die Kontrolle über ihre eigenen Daten und Lernzyklen behalten können, ohne von einem einzelnen Modellanbieter abhängig zu sein.

Bedenken hinsichtlich der KI-Risiken wurden von mehreren KI-Forschern und Branchenführern geäußert. Anfang dieser Woche veröffentlichte Microsoft auch einen 37-seitigen Entwurf seiner Grundsätze für das Verhalten von KI-Modellen, der humanistische Prinzipien und die sichere Implementierung der Technologie betont.

Nadella verglich das Tempo der KI-Entwicklung mit der Testphase vor der Veröffentlichung von Software. Er erklärte, dass externe Tests durch Dritte von Vorteil sind, und fügte hinzu, dass ein Versäumnis bei der ordnungsgemäßen Bewältigung von Risiken zum Verlust von Betriebslizenzen führen könnte.

Microsoft strebt danach, sein Engagement für eine sichere und verantwortungsvolle KI-Entwicklung durch konkrete Maßnahmen zu demonstrieren. Nadella nannte die Aktivitäten des Unternehmens im Quincy Data Center als Beispiel für eine langfristige Zusammenarbeit mit Gemeinden beim Aufbau von Infrastruktur und der Verteilung von Vorteilen.