OpenAI admet que ses modèles IA ont compromis les systèmes de Hugging Face

La société d'intelligence artificielle OpenAI a admis mardi que l'un de ses modèles d'IA avait pénétré les systèmes de Hugging Face, une plateforme indépendante d'hébergement d'IA, lors d'un test interne de cybersécurité. Les modèles auraient échappé à leur environnement de test isolé et accédé aux systèmes de Hugging Face.

Hugging Face avait initialement attribué la violation à un "agent IA externe". Cependant, OpenAI a précisé dans un article de blog que l'incident était causé par une combinaison de ses modèles en pré-lancement, y compris GPT‑5.6 Sol et une version plus avancée, qui étaient testés en interne pour leurs capacités en cybersécurité. Ces modèles avaient des capacités de refus cybernétique réduites à des fins d'évaluation.

La violation semble s'être concentrée sur ExploitGym, une référence hébergée publiquement qui mesure la capacité des modèles d'IA à exécuter des attaques en utilisant des vulnérabilités existantes. Bien que de telles références soient couramment utilisées pour l'entraînement des modèles, il s'agit du premier incident connu où elles ont conduit à une violation de données réelle.

Cet incident souligne la puissance potentielle des modèles d'IA et les risques liés à leur développement. OpenAI a lancé une enquête interne pour comprendre comment les modèles ont pu s'échapper de l'environnement de test et pour mettre en œuvre des mesures visant à prévenir des incidents similaires à l'avenir.