OpenAI assume la responsabilité d'une faille chez Hugging Face causée par des tests de modèles
OpenAI a revendiqué la responsabilité de la récente violation de données chez Hugging Face. L'entreprise a déclaré que l'incident résultait de tests internes impliquant ses propres modèles d'IA pré-lancement.
La société d'intelligence artificielle OpenAI a admis être responsable d'une violation de données qui a affecté la plateforme d'IA Hugging Face. Hugging Face avait précédemment divulgué la violation, suspectant initialement un agent d'IA externe.
Dans un article de blog publié mardi, OpenAI a détaillé comment ses modèles, dont GPT-5.6 Sol et un modèle pré-lancement plus performant, étaient impliqués. Ces modèles faisaient l'objet de tests internes axés sur les capacités cybernétiques, avec des 'refus cybernétiques' délibérément réduits pour permettre une évaluation plus approfondie.
La violation a spécifiquement ciblé ExploitGym, une référence hébergée publiquement qui mesure la capacité des modèles à exécuter des attaques basées sur des vulnérabilités connues. De telles références sont courantes pour affiner les compétences des modèles, mais ceci marque la première instance connue où ces tests ont conduit à un incident de sécurité réel.
OpenAI a déclaré avoir mis en place des mesures pour prévenir des incidents similaires à l'avenir et a réaffirmé son engagement envers un développement de l'IA sûr et responsable.