37 entreprises créent une alliance pour la sécurité ouverte de l'IA

NVIDIA, Microsoft et IBM, aux côtés de 34 autres entreprises technologiques, ont annoncé la création de la coalition Open Safety AI. Cette nouvelle alliance se consacre à la création et au partage d'outils open source conçus pour promouvoir le développement et le déploiement responsables de l'intelligence artificielle.

La coalition rassemble des organisations leaders dans les secteurs du cloud computing, de la cybersécurité, des logiciels d'entreprise et de la recherche en IA. L'objectif principal est d'améliorer la sécurité et la transparence des systèmes d'IA par des efforts collaboratifs et la diffusion de technologies ouvertes.

S'appuyant sur des fondations open source existantes, telles que l'initiative Akrites de la Linux Foundation et la communauté OpenSSF, la coalition Open Safety AI vise à identifier et à résoudre les vulnérabilités de sécurité. Cette focalisation sur les solutions open source est destinée à renforcer les défenses et à accroître la confiance dans les technologies d'IA.

Selon les membres fondateurs, les modèles et les cadres ouverts sont cruciaux pour démocratiser les capacités de défense et augmenter la transparence en matière de sécurité de l'IA. La mission déclarée de la coalition est de garantir que les défenseurs aient accès à des outils open source fiables et contrôlables, offrant un complément essentiel aux systèmes propriétaires et atténuant les risques liés aux points de défaillance uniques.