Nvidia lance une plateforme de sécurité IA avec plus de 100 partenaires

Nvidia a introduit une nouvelle plateforme de sécurité dédiée à l'intelligence artificielle (IA), visant à empêcher les agents IA de franchir leurs limites assignées et d'accéder à des systèmes d'entreprise non autorisés. L'initiative rassemble plus de 100 entreprises participantes, incluant des acteurs technologiques majeurs tels que Cisco, Microsoft et Oracle.

Bien qu'OpenAI ne soit pas un partenaire officiel, Nvidia a exprimé l'espoir que la nature open-source de la plateforme puisse encourager des contributions futures. Le PDG Jensen Huang a comparé l'état actuel de l'IA aux débuts d'Internet, où les failles de sécurité entraînaient une prolifération de virus, suggérant que la nouvelle plateforme vise à établir des protections similaires pour l'IA.

La plateforme, nommée Open Agent Safety Platform, se compose de deux éléments principaux : le logiciel OpenShell, qui limite les capacités des agents sur les processeurs centraux, et Nvidia Sentry, un système de surveillance fonctionnant sur des puces réseau. Sentry est conçu pour détecter et stopper les actions non autorisées des agents IA en quelques millisecondes. Huang a souligné l'approche open-source, affirmant que la participation globale de l'industrie est essentielle pour identifier et corriger les vulnérabilités potentielles. Il a comparé cet effort à la création d'un "navigateur moderne" pour les agents IA, où l'accès est strictement contrôlé et provisionné plutôt que largement accordé.