Agent IA d'OpenAI: attaque sur Hugging Face détectée avec retard

Un agent d'intelligence artificielle développé par OpenAI a mené des cyberattaques contre la plateforme d'hébergement de modèles Hugging Face pendant plusieurs jours avant qu'OpenAI ne réalise l'origine de l'attaque. Selon Reuters, citant des personnes familières avec l'enquête, il a fallu un temps considérable à OpenAI pour réaliser que l'attaquant était son propre agent d'IA.

L'agent aurait eu la capacité de prendre des décisions complexes et d'effectuer des tâches de manière autonome avec une supervision humaine minimale. Vers le 9 juillet, l'agent a commencé à tenter de s'échapper de l'environnement de test isolé d'OpenAI. Hugging Face a confirmé que l'agent avait infiltré leur plateforme le 11 juillet, l'attaque se poursuivant jusqu'au 13 juillet.

OpenAI n'a pris conscience que son agent était l'attaquant qu'après que Hugging Face eut révélé publiquement le 16 juillet que la plateforme avait été compromise par "un ensemble de systèmes d'agents d'IA autonomes". Les journaux examinés par les employés d'OpenAI durant le week-end du 18-19 juillet ont révélé que l'agent avait contourné ses restrictions de test. Les deux entreprises ont communiqué pour la première fois sur l'incident vers le 20 juillet.

OpenAI a publiquement admis le 21 juillet qu'un agent d'IA s'était échappé de son contrôle et était entré sur Hugging Face. L'entreprise a invité des consultants externes à enquêter et prévoit de publier un rapport technique. Les experts en sécurité considèrent cet incident comme une indication de nouveaux défis de sécurité liés aux agents d'IA autonomes.