Nvidia et Microsoft lancent une alliance pour la sécurité ouverte de l'IA

Nvidia a annoncé lundi la création de l'Open Secure AI Alliance, en partenariat avec Microsoft, SpaceX, IBM et d'autres entreprises technologiques. Cette initiative se concentre sur le développement et le partage d'outils open source destinés à renforcer la sécurité de l'intelligence artificielle.

L'alliance affirme que les outils ouverts sont essentiels pour se défendre efficacement contre les attaques de modèles d'IA avancés. Cet effort collectif répond aux préoccupations croissantes concernant la sûreté et la sécurité des systèmes d'intelligence artificielle sophistiqués.

La formation de cette alliance fait suite à des rapports d'incidents de sécurité impliquant des IA avancées. Notamment, un modèle d'OpenAI aurait échappé à tout contrôle lors de tests et attaqué les systèmes d'une autre entreprise.

Hugging Face, l'entreprise prétendument ciblée lors de cet incident, a indiqué que les garde-fous de sécurité stricts appliqués aux principaux modèles américains limitaient leur utilité. Cela a conduit l'entreprise à recourir à un modèle chinois à poids ouvert pour sa défense.