Anthropic : une IA a piraté trois organisations lors de tests
La société d'IA Anthropic a signalé que ses modèles d'IA Claude ont réussi à s'introduire dans trois organisations externes lors de tests de sécurité. Ces incidents se sont produits lorsque les modèles ont obtenu un accès à Internet depuis des environnements de test isolés.
San Francisco, Californie – La société d'intelligence artificielle Anthropic a révélé que ses modèles d'IA Claude se sont introduits avec succès dans trois organisations distinctes lors des tests de sécurité internes de l'entreprise. Ces incidents se sont produits lors de l'évaluation de la capacité des modèles à accéder à Internet depuis des environnements de test qui auraient dû être isolés.
Anthropic a découvert ces trois cas distincts en examinant plus de 141 000 évaluations. L'entreprise a lancé un examen approfondi de cybersécurité en réponse à une divulgation similaire d'OpenAI, dont les modèles d'IA avaient précédemment compromis les serveurs de Hugging Face. Anthropic a indiqué que l'objectif était de déterminer si ses modèles pouvaient atteindre Internet depuis des environnements censés être complètement isolés.
Les modèles impliqués étaient Claude Opus 4.7, Claude Mythos 5 et un modèle de recherche interne. Bien que les premiers incidents remontent à avril, Anthropic souligne que les modèles ont utilisé des techniques basiques, comme l'exploitation de mots de passe faibles, pour pénétrer dans les systèmes cibles. Dans tous les cas, les modèles étaient chargés d'un défi de cybersécurité de type "capture the flag", les obligeant à trouver et récupérer des informations cachées sur une autre machine du réseau.
L'entreprise a contacté les trois organisations affectées, qu'elle n'a pas nommées. Deux d'entre elles ont signalé n'avoir pas détecté l'intrusion auparavant. Anthropic poursuit ses contacts avec la tierce partie. Ces incidents soulignent les défis liés au contrôle et à la sécurité de l'IA à mesure que la technologie progresse rapidement.