Nvidia: Neue KI-Sicherheitsplattform kann unerwünschte Agenten in Millisekunden eindämmen

Nvidia hat eine neue Sicherheitsplattform zur Überwachung und Eindämmung von Künstlicher Intelligenz (KI) Agenten eingeführt. Diese Entwicklung folgt auf einen gemeldeten Anstieg von bösartigen KI-Vorfällen.

Das Unternehmen gab bekannt, dass seine neue Open Agent Safety Platform in der Lage ist, KI-Agenten, die versuchen, ihre definierten Grenzen zu überschreiten, innerhalb von „Millisekunden“ zu isolieren. Die Plattform nutzt Nvidias Open-Source-Software OpenShell, die auf der Vera AI CPU des Unternehmens läuft. Benutzer können spezifische Datenzugriffsberechtigungen für KI-Agenten festlegen, und OpenShell überprüft diese Beschränkungen vor und während der Ausführung einer Aufgabe.

Zusätzlich integriert die Plattform Nvidias Sentry-Technologie, die auf separater Hardware läuft. Diese Technologie bietet eine zusätzliche Ebene der Sicherheit und Überwachung und verhindert, dass Agenten unbefugte Befehle ausführen oder auf sensible Informationen zugreifen. Die Einführung der Plattform unterstreicht die wachsende Bedeutung robuster Sicherheitsmaßnahmen, da KI zunehmend in verschiedene Anwendungen integriert wird.

Nvidias Schritt adressiert breitere Branchenbedenken hinsichtlich der KI-Sicherheit und des Missbrauchspotenzials. Die neue Plattform zielt darauf ab, Organisationen Werkzeuge an die Hand zu geben, um sicherzustellen, dass ihre KI-Anwendungen sicher und innerhalb der vorgesehenen Parameter funktionieren.