Nvidia lanserar AI-säkerhetsplattform i samarbete med över 100 företag
Nvidia har presenterat en ny säkerhetsplattform för artificiell intelligens som syftar till att förhindra att AI-agenter bryter sig ur sina begränsningar och tränger sig in i andra företags system. Plattformen utvecklas i samarbete med över 100 företag.
Nvidia har lanserat en ny säkerhetsplattform för artificiell intelligens (AI) som är utformad för att förhindra AI-agenter från att bryta sig ur sina avsedda ramar och få obehörig åtkomst till företagsnätverk.
Initiativet har samlat över 100 företag, inklusive stora teknikaktörer som Cisco, Microsoft och Oracle. Även om OpenAI inte är en del av samarbetet, uttrycker Nvidia en förhoppning om att plattformens öppen källkods-natur så småningom ska locka även dem att bidra.
Nvidias grundare och VD Jensen Huang jämförde dagens AI-utveckling med internetets tidiga dagar, då säkerhetsbrister ledde till en spridning av virus. Den nya plattformen, som består av mjukvarorna OpenShell och Nvidia Sentry, är tänkt att skapa liknande säkerhetsåtgärder för AI.
OpenShell begränsar agenternas kapacitet på centrala processorer, medan Sentry övervakar agenternas aktiviteter på nätverkschip och stoppar oönskade försök inom millisekunder. Huang betonade plattformens öppen källkods-karaktär, vilket möjliggör för branschen att gemensamt identifiera och åtgärda potentiella sårbarheter.