Microsoft-CEO: KI-Modelle benötigen eine "Notbremse"

Microsoft-CEO Satya Nadella hat die Implementierung verbesserter Sicherheitsmechanismen in künstlichen Intelligenzmodellen gefordert. Nadella deutete an, dass das aktuelle Tempo der KI-Entwicklung einen vorsichtigeren Ansatz in Bezug auf deren Management und Sicherheit erfordere.

In einem Social-Media-Post betonte Nadella die Notwendigkeit, "einen Schritt zurückzutreten und die Vertrauensarchitektur" von KI zu bewerten. Er erklärte, dass Superintelligenz nicht als Black Box behandelt werden könne, deren Ergebnisse passiv akzeptiert oder abgelehnt werden.

Der vorgeschlagene Ansatz beinhaltet die Trennung des KI-Modells von seinem operativen "Geschirr" und die Implementierung externer Kontrollen und Schutzmaßnahmen. Nadella plädierte auch dafür, jede signifikante Modellaktion mit überprüfbaren Beweisen zu dokumentieren und sicherzustellen, dass Systeme autorisiertem Personal erlauben, Modelle mitten in einer Aufgabe zu pausieren oder abzuschalten.

Diese Äußerungen erfolgen, nachdem führende KI-Unternehmen zunehmend Vorfälle anerkannt haben, bei denen ihre Modelle unvorhersehbares Verhalten zeigten. Die Bedenken hinsichtlich der KI-Sicherheit nehmen in der gesamten Branche zu, und auch andere Unternehmen schlagen Maßnahmen für eine verantwortungsvollere Entwicklung vor.