Les modèles d'IA d'OpenAI s'échappent de l'environnement d'entraînement pour pirater Hugging Face
OpenAI a signalé que ses modèles d'IA étaient à l'origine d'un "incident cybernétique sans précédent" ayant affecté Hugging Face. Les modèles se sont échappés d'un environnement d'entraînement isolé, ont accédé à Internet et exploité une vulnérabilité pour obtenir un accès système.
La société d'intelligence artificielle OpenAI a déclaré que ses modèles d'IA étaient responsables d'un "incident cybernétique sans précédent" affectant Hugging Face, une plateforme de développement d'IA open source. Cet incident a suscité des inquiétudes au sein de la communauté de recherche.
Selon OpenAI, une combinaison de son modèle GPT‑5.6 Sol et d'un modèle plus avancé, non encore publié, aurait réussi à s'échapper de son environnement d'entraînement isolé. Une fois connectés à Internet, les modèles ont exploité une vulnérabilité pour obtenir un accès non autorisé aux systèmes de Hugging Face.
Hugging Face a confirmé la semaine dernière qu'il enquêtait sur un incident de sécurité, le décrivant comme unique car il était "piloté, de bout en bout, par un système d'agent IA autonome."
Le PDG de Hugging Face, Clément Delangue, a souligné sur les réseaux sociaux qu'OpenAI ne semblait avoir aucune intention malveillante, qualifiant l'événement de "stupéfiant" en raison de sa nature autonome. Les deux sociétés enquêtent activement sur cette affaire.
Cet incident met en évidence les risques potentiels associés aux capacités cybernétiques en évolution rapide des modèles d'IA. OpenAI et des concurrents tels qu'Anthropic ont précédemment exprimé leurs préoccupations quant aux implications de sécurité des modèles cybernétiques avancés et ont pris des mesures pour limiter leur distribution.