NVIDIA lanserar plattform för säkerhetshantering av AI-agenter

NVIDIA har lanserat NVIDIA Open Agent Safety Platform, en ny lösning som är utformad för att förbättra säkerheten och kontrollen för AI-agenter, deras hårdvara och robotsystem. Plattformen inkluderar NVIDIA OpenShell-säkerhetsprogramvara, som gör det möjligt att definiera gränser och övervaka AI-agenters funktion på CPU-nivå, och stöder både öppen och sluten källkodsmodeller.

OpenShell är utformad för att fungera effektivt med Vera-plattformen med minimal prestandaförbrukning. Den gör det möjligt för AI-agenter att utföra sina uppgifter snabbt samtidigt som deras säkerhet säkerställs. Den öppna källkoden möjliggör integration av OpenShell med tredjepartsplattformar, inklusive Arm- och Intel-produkter.

Företaget presenterade också NVIDIA Sentry-vaktingssystemet, som kontinuerligt övervakar AI-agenternas beteende. Om en agent försöker bryta mot de fastställda gränserna kan Sentry stoppa dess drift inom millisekunder. Sentry körs på BlueField-4 DPU och implementerar säkerhetspolicyer oberoende på hårdvarunivå.

Anthropic, SpaceX och Scale AI har redan inlett samarbeten med NVIDIA för att använda OpenShell i sina egna AI-modeller och agenter. Denna nya plattform syftar till att möta det växande behovet av att hantera och skydda alltmer komplexa AI-system.