NVIDIA lance une plateforme pour la sécurité des agents d'IA

NVIDIA a lancé la NVIDIA Open Agent Safety Platform, une nouvelle solution conçue pour renforcer la sécurité et le contrôle des agents d'IA, de leur matériel associé et des systèmes robotiques. La plateforme inclut le logiciel de sécurité OpenShell de NVIDIA, qui définit les limites pour les agents d'IA fonctionnant sur les CPU et prend en charge les modèles open-source et propriétaires.

Le logiciel OpenShell est conçu pour une faible utilisation des ressources sur la plateforme Vera, permettant aux agents d'IA d'accomplir leurs tâches efficacement tout en maintenant la sécurité. En tant que logiciel open-source, OpenShell peut s'intégrer à des plateformes tierces, y compris celles d'Arm et d'Intel.

NVIDIA a également annoncé NVIDIA Sentry, un système de surveillance capable de suivre en continu le comportement des agents d'IA. Si un agent tente de franchir ses limites opérationnelles, Sentry peut l'isoler ou arrêter son exécution en quelques millisecondes. Sentry fonctionne sur un DPU BlueField-4, appliquant les politiques de sécurité indépendamment au niveau matériel.

Des entreprises telles qu'Anthropic, SpaceX et Scale AI collaborent déjà avec NVIDIA pour implémenter OpenShell pour leurs modèles et agents d'IA. Cette plateforme répond au besoin croissant de mesures de sécurité et de contrôle robustes dans les déploiements d'IA complexes.