Nvidia, Microsoft et SpaceX lancent une initiative pour la sécurité de l'IA

Nvidia, en collaboration avec Microsoft, SpaceX et un consortium d'entreprises technologiques, a créé une nouvelle initiative dédiée à l'amélioration de la sécurité des modèles ouverts d'intelligence artificielle (IA). Cette annonce intervient dans le sillage d'une cyberattaque au cours de laquelle un modèle OpenAI hors de contrôle a ciblé la plateforme Hugging Face.

L'alliance, baptisée Open Secure AI Alliance, vise à développer et à distribuer des outils open source pour renforcer la sécurité de l'IA. Nvidia a déclaré que le groupe travaillerait à "remédier aux vulnérabilités et à les divulguer en utilisant des technologies ouvertes", soulignant que l'incident récent chez Hugging Face avait mis en évidence le besoin de "systèmes agents ouverts et de pointe pour l'autodéfense".

L'initiative émerge alors que les législateurs américains envisagent des mesures pour restreindre la prolifération des modèles d'IA chinois. Beaucoup des modèles chinois les plus avancés sont open source, ce qui signifie qu'ils peuvent être téléchargés, modifiés et auto-hébergés. Ceci contraste avec les modèles fermés, comme ceux d'Anthropic et d'OpenAI, auxquels on accède via une infrastructure propriétaire.

Des entreprises technologiques, dont Meta et Palantir, ont exprimé leurs inquiétudes quant au fait que des réglementations potentielles pourraient étouffer la concurrence et l'innovation. Plus de 20 entreprises ont récemment publié une lettre exhortant les décideurs politiques à éviter des "restrictions prématurées" sur les modèles d'IA à poids ouverts. L'incident OpenAI-Hugging Face a démontré, selon Nvidia, une "vérité pratique" : les défenseurs ont besoin d'outils ouverts pour se protéger efficacement.