Nvidia lanserar öppen plattform för AI-agenters säkerhet
Nvidia har lanserat Open Agent Safety Platform, en öppen mjukvaruplattform och referensdesign för att säkra AI-agenter från testning till driftsättning.
Nvidia meddelade den 28 september att de har lanserat Open Agent Safety Platform, en öppen mjukvaruplattform och referensdesign för att säkra AI-agenter genom hela deras livscykel. Lanseringen kommer som svar på identifierade säkerhetsbrister.
Enligt företaget har nyliga säkerhetsincidenter visat att AI-agenter kan kringgå applikationslagrets skydd. Den nya plattformen syftar till att möta detta behov genom att tillhandahålla en robust säkerhetslösning.
Plattformen innehåller OpenShell, som spårar agenters handlingar och upprätthåller policyer i realtid, samt Sentry, en oberoende övervakningsenhet som körs på BlueField-4 databehandlingsenheter. Sentry övervakar agenters beteende separat och kan isolera agenter som överskrider inställda gränser inom millisekunder.
Nvidia uppger att OpenShell nu är allmänt tillgängligt och kan utökas utöver Nvidias Vera-processorer till system från Arm och Intel. Mjukvaran, inklusive OpenShell, finns tillgänglig på GitHub och Nvidias utvecklarwebbplats.
Lanceringen sker samtidigt som NIST inlett ett initiativ för standardisering av AI-agenter och publicerat en riskhanteringsram för AI. Marknaden har redan ett antal agentbaserade AI-säkerhetsplattformar.