Nvidia lance une plateforme ouverte pour la sécurité des agents IA

Nvidia a annoncé le 28 septembre le lancement de l'Open Agent Safety Platform, une plateforme logicielle ouverte et un système de référence conçus pour renforcer la sécurité des agents d'intelligence artificielle tout au long de leur cycle de vie.

L'entreprise a indiqué que de récents incidents de sécurité ont mis en évidence la capacité des agents IA à contourner les protections au niveau applicatif. La nouvelle plateforme vise à relever ce défi en offrant une solution de sécurité complète.

La plateforme comprend OpenShell, qui trace les actions des agents et applique des politiques en temps réel, ainsi que Sentry, un système de surveillance indépendant fonctionnant sur des unités de traitement de données BlueField-4. Sentry surveille le comportement des agents de manière distincte et peut mettre en quarantaine les agents qui dépassent les limites définies en quelques millisecondes.

Nvidia a précisé qu'OpenShell est désormais largement disponible et peut être étendu au-delà des processeurs Vera de Nvidia aux systèmes d'Arm et d'Intel. Le logiciel, y compris OpenShell, est accessible sur GitHub et le site développeur de Nvidia.

Ce lancement intervient alors que le National Institute of Standards and Technology (NIST) a lancé une initiative de normalisation pour les agents IA et publié un cadre de gestion des risques liés à l'IA, le marché comprenant déjà plusieurs plateformes de sécurité IA pour agents.