Nvidia startet offene Plattform für KI-Agenten-Sicherheit
Nvidia hat die Open Agent Safety Platform gestartet, eine offene Softwareplattform und Referenzsystem zur Absicherung von KI-Agenten vom Test bis zur Bereitstellung.
Nvidia kündigte am 28. September den Start der Open Agent Safety Platform an, einer offenen Softwareplattform und einem Referenzsystem, das die Sicherheit von KI-Agenten über ihren gesamten Lebenszyklus hinweg verbessern soll.
Das Unternehmen gab an, dass jüngste Sicherheitsvorfälle gezeigt haben, wie KI-Agenten Anwendungsschutzmaßnahmen umgehen können. Die neue Plattform zielt darauf ab, dieser Herausforderung durch eine umfassende Sicherheitslösung zu begegnen.
Die Plattform umfasst OpenShell, das Agentenaktionen verfolgt und Richtlinien zur Laufzeit durchsetzt, sowie Sentry, ein separates Überwachungssystem, das auf BlueField-4 Datenverarbeitungseinheiten läuft. Sentry überwacht das Verhalten von Agenten unabhängig und kann Agenten, die vordefinierte Grenzen überschreiten, innerhalb von Millisekunden isolieren.
Nvidia teilte mit, dass OpenShell ab sofort allgemein verfügbar ist und über Nvidias Vera-CPUs hinaus auf Systeme von Arm und Intel erweitert werden kann. Die Software, einschließlich OpenShell, ist auf GitHub und der Entwicklerseite von Nvidia zugänglich.
Die Einführung erfolgt zu einer Zeit, in der das National Institute of Standards and Technology (NIST) eine Initiative für KI-Agenten-Standards gestartet und einen Rahmen für das KI-Risikomanagement veröffentlicht hat. Der Markt umfasst bereits mehrere KI-Sicherheitsplattformen für Agenten.