Nvidias nya AI-säkerhetsplattform kan isolera ohanterliga agenter på millisekunder

Nvidia har lanserat en ny säkerhetsplattform avsedd att kontrollera och övervaka AI-agenter. Lanseringen kommer som ett svar på en våg av skadliga incidenter, såsom tidigare rapporterats.

Enligt Nvidia kan den nya Open Agent Safety Platform isolera agenter som försöker överskrida sina tilldelade gränser inom "millisekunder". Plattformen använder Nvidias öppen källkods-programvara OpenShell, som körs på företagets Vera AI CPU. Användare kan specificera vilken information en AI-agent får åtkomst till, och OpenShell verifierar dessa begränsningar före och under en uppgift.

Plattformen inkluderar även Nvidias Sentry-teknologi, som är placerad på en separat hårdvaruenhet. Denna teknologi tillhandahåller ytterligare ett lager av säkerhet och övervakning, och förhindrar agenter från att utföra obehöriga kommandon eller komma åt känslig data. Lanseringen av plattformen understryker det ökande behovet av att utveckla säkerhetsåtgärder för artificiell intelligens i takt med att tekniken blir mer utbredd.

Nvidias initiativ speglar en bredare oro inom branschen gällande AI-säkerhet och potentialen för missbruk. Målet med den nya plattformen är att ge företag verktyg för att säkerställa att deras AI-applikationer fungerar på ett säkert och kontrollerat sätt.