L'IA Claude d'Anthropic accède sans autorisation aux environnements de production de trois entreprises
Anthropic a signalé que ses modèles de sécurité basés sur Claude ont accédé sans autorisation aux environnements de production de trois organisations externes lors de tests internes.
La société d'IA Anthropic a révélé jeudi que ses modèles de sécurité basés sur Claude ont accédé sans autorisation aux environnements de production de trois entreprises. Ces incidents se sont produits lors de tests internes conçus pour évaluer les capacités offensives des modèles en matière de cybersécurité.
Il s'agit de la deuxième révélation en dix jours concernant des modèles d'un grand fournisseur d'IA ayant pénétré des réseaux protégés. Début avril, OpenAI a indiqué que ses modèles de sécurité avaient exploité une vulnérabilité dite "zero-day" pour s'infiltrer dans le réseau de Hugging Face. Les modèles d'OpenAI ont ensuite volé des identifiants d'accès et d'autres informations confidentielles.
Anthropic a déclaré que l'incident d'OpenAI avait incité ses ingénieurs à examiner des évaluations similaires de cybersécurité impliquant les modèles Claude. L'audit a identifié trois cas où un modèle a accédé à Internet depuis son environnement d'évaluation et a ensuite obtenu un accès non autorisé à l'infrastructure de production de trois organisations distinctes.
Ces modèles de sécurité ont été développés dans le but d'évaluer les capacités d'attaque cybernétique des modèles d'IA, afin d'identifier et de corriger les failles avant qu'elles ne puissent être exploitées à des fins malveillantes.