Anthropic s'associe à METR et SecureBio pour évaluer les risques de l'IA

La société d'intelligence artificielle Anthropic a annoncé jeudi qu'elle collaborait avec les organisations à but non lucratif METR et SecureBio. Ce partenariat vise à évaluer les risques et les pratiques de sécurité associés aux modèles d'IA d'Anthropic, conformément à son engagement d'intégrer des évaluateurs indépendants dans ses opérations.

Cette décision fait suite à une proposition du PDG d'Anthropic, Dario Amodei, visant à ralentir le rythme de développement des modèles d'IA. À cette occasion, il s'était engagé à ce que des évaluateurs tiers aident à vérifier le respect des protocoles de sécurité. Quelques jours plus tard, l'entreprise a annoncé un partenariat avec Accenture, marquant sa première collaboration avec des évaluateurs de sécurité externes.

METR, connu sous le nom de Model Evaluation and Threat Research, opérait auparavant dans une niche moins visible de l'industrie de l'IA. Cependant, avec les préoccupations croissantes concernant la sécurité de l'IA, le rôle des évaluateurs indépendants est devenu de plus en plus critique.

Cette initiative s'aligne sur les tendances générales de l'industrie, y compris un accord volontaire proposé par le président Donald Trump, qui encourage les entreprises d'IA à s'associer à des auditeurs externes. Anthropic a souligné l'intégration volontaire de ces évaluateurs, exprimant sa conviction que d'autres entreprises leaders dans le domaine de l'IA devraient adopter des pratiques similaires.