Microsofts Nadella schlägt neuen KI-Sicherheitsansatz vor
Satya Nadella plädiert dafür, KI-Modelle als nicht vertrauenswürdige Komponenten zu behandeln und Systeme so zu gestalten, dass sie auch bei Kompromittierung sicher sind. Der Fokus liegt auf der Architektur, nicht auf dem Modell selbst.
Microsoft-CEO Satya Nadella hat einen neuen Ansatz für die Sicherheit von Unternehmens-KI vorgestellt. Er schlägt vor, KI-Modelle nicht als vertrauenswürdige Entitäten zu behandeln. Stattdessen sollten Systeme so konzipiert werden, dass sie davon ausgehen, dass Modelle kompromittiert sein könnten, und dass die Autorität außerhalb des Modells verbleibt.
Nadella betont, dass der beständige Wert eines Unternehmens nicht das zugrundeliegende Modell ist, sondern die Lernschleife, die darum aufgebaut ist. Er schlägt vor, Modelle als völlig unzuverlässige Komponenten zu behandeln, deren Handlungen ständige Überwachung und externe Autorisierung erfordern. Dieses Prinzip überträgt das Konzept des „Assume Breach“ aus der Cybersicherheit auf KI-Modelle.
Ein Kernprinzip dieses Ansatzes ist die Trennung des KI-Modells von seinen operativen Komponenten wie Speicher, Berechtigungen und Ausführungsumgebungen. Das Modell kann Aktionen vorschlagen, sollte aber niemals seine eigene Berechtigung zur Ausführung bestimmen. Eine unabhängige Ausführungsumgebung muss stattdessen Berechtigungen und Richtlinien überprüfen, bevor eine Aktion zugelassen wird.
Diese architektonische Verschiebung rückt ab von dem Versuch, inhärent vertrauenswürdige Modelle zu entwickeln. Der Fokus liegt nun auf dem Aufbau von Systemen, die auch dann sicher bleiben, wenn die Zuverlässigkeit des Modells in Frage gestellt wird. Modelle können sich weiterentwickeln und ersetzt werden, aber die gesammelte Erfahrung und das Wissen innerhalb der Lernschleife des Unternehmens stellen den bleibenden Wert dar.