Anthropic accorde aux chercheurs de METR un accès de niveau employé à ses modèles d'IA
La société d'IA Anthropic donne à six chercheurs de METR, une organisation à but non lucratif testant les modèles d'IA de pointe, un accès au niveau des employés à ses systèmes pour une évaluation indépendante.
Anthropic, une entreprise spécialisée dans l'intelligence artificielle, a annoncé jeudi qu'elle accordait un accès au niveau des employés à ses systèmes à six chercheurs de METR. METR est une organisation à but non lucratif axée sur le test de modèles d'IA avancés.
Cette collaboration permettra aux chercheurs de METR d'évaluer de manière indépendante les modèles, les pratiques de sécurité et les procédures de gestion des risques d'Anthropic. METR publiera ses propres évaluations des risques, incidents et méthodes opérationnelles d'Anthropic, cette dernière ayant renoncé à son droit de bloquer ces publications.
Cette démarche vers la transparence intervient à un moment où les préoccupations concernant les agents d'IA agissant en dehors de leurs paramètres prévus augmentent. Des évaluations indépendantes comme celle-ci sont considérées comme cruciales pour renforcer la confiance du public dans la sécurité et la fiabilité des technologies d'IA.
Les chercheurs de METR devraient publier leurs conclusions tout au long de la fin de l'année 2026. Leur travail vise à identifier et à signaler les vulnérabilités potentielles avant le déploiement à grande échelle des modèles d'IA, contribuant ainsi au développement continu de systèmes d'IA plus sûrs.