Nvidia : sa nouvelle plateforme de sécurité IA peut contenir les agents dévoyés en millisecondes

Nvidia a introduit une nouvelle plateforme de sécurité destinée à surveiller et à contenir les agents d'intelligence artificielle. Ce développement fait suite à une augmentation signalée d'incidents impliquant des IA dévoyées.

L'entreprise a annoncé que sa nouvelle plateforme, l'Open Agent Safety Platform, est capable de mettre en quarantaine les agents d'IA qui tentent de franchir leurs limites définies en « millisecondes ». La plateforme utilise le logiciel open-source OpenShell de Nvidia, qui fonctionne sur le processeur Vera AI de l'entreprise. Les utilisateurs peuvent définir des autorisations d'accès aux données spécifiques pour les agents d'IA, et OpenShell vérifie ces restrictions avant et pendant l'exécution des tâches.

De plus, la plateforme intègre la technologie Sentry de Nvidia, opérant sur du matériel séparé. Cette technologie fournit une couche supplémentaire de sécurité et de surveillance, empêchant les agents d'exécuter des commandes non autorisées ou d'accéder à des informations sensibles. Le lancement souligne l'importance croissante de mesures de sécurité robustes à mesure que l'IA s'intègre davantage dans diverses applications.

La démarche de Nvidia répond aux préoccupations plus larges de l'industrie concernant la sécurité de l'IA et le potentiel d'utilisation abusive. La nouvelle plateforme vise à fournir aux organisations les outils nécessaires pour garantir que leurs applications d'IA fonctionnent de manière sécurisée et dans les paramètres prévus.