Microsoft CEO: KI-Modelle müssen als fehlerhaft angenommen werden

Microsoft-CEO Satya Nadella hat neue Prinzipien für die Entwicklung und Bereitstellung von künstlicher Intelligenz (KI) dargelegt und Entwickler aufgefordert, von einem möglichen Versagen auszugehen und robuste Kontrollmechanismen zu implementieren. Nadella erklärte, dass in der heutigen Ära rasanter KI-Entwicklung einfache Strategien wie die Selbstüberwachung durch Superintelligenz nicht ausreichen.

Er hob hervor, dass traditionelle Software zwar etablierte Werkzeuge zur Verfolgung von Verhalten biete, KI-Modelle jedoch oft „Black Boxes“ seien. Diese komplexen Systeme greifen laut Nadella auf sensible Daten zu und führen kritische Aufgaben aus, was eine Neubewertung der Vertrauensarchitekturen erfordere. Modell-Anbieter dürften die Verantwortung nicht auslagern oder KI-Ergebnisse blind akzeptieren.

Zu Nadellas vorgeschlagenen Prinzipien gehören die Diversifizierung von Modellen, die Sicherstellung, dass alle wichtigen Aktionen manipulationssicher und für Menschen lesbar protokolliert werden, die Überprüfbarkeit von Systemen durch kontinuierliche Tests (einschließlich Fehler und Angriffe) sowie die Aufrechterhaltung unabhängiger Kontrolle darüber, worauf Modelle zugreifen und was sie tun können. Auch die Auditierbarkeit müsse unabhängig von der KI selbst sein.

Ein kritischer Aspekt ist die Gewährleistung der Eindämmung, die Nadella mit einer Notbremse vergleicht. Systeme müssen autorisiertem Personal jederzeit ermöglichen, Modelle zu pausieren oder abzuschalten. Er betonte die Notwendigkeit der Standardisierung dieser Unterbrechungstechniken, insbesondere für fortgeschrittenere Modelle, und plädierte für eine zeitnahe Offenlegung und branchenweite Weitergabe von Fehlern und gewonnenen Erkenntnissen.