Anthropic accorde un accès de type "employé" à un organisme externe d'évaluation de l'IA

L'entreprise d'IA Anthropic a accordé à un organisme d'évaluation externe un accès "de type employé" à ses systèmes internes et à son matériel, dans le but de renforcer les mesures de sécurité face aux préoccupations concernant le développement incontrôlé potentiel de la technologie.

METR, une organisation à but non lucratif qui a déjà collaboré avec des laboratoires d'IA de premier plan tels qu'OpenAI, Google et Meta, a désormais intégré une équipe au sein des installations d'Anthropic.

Un rôle accru pour les évaluateurs tiers fait partie des principales mesures concrètes proposées par les laboratoires d'IA en réponse aux inquiétudes croissantes concernant les dangers potentiels des systèmes d'IA plus performants pour l'économie, la cybersécurité et l'humanité en général.

Cet accès est destiné à faciliter une évaluation des risques plus complète et approfondie, dans le but d'anticiper et d'atténuer les conséquences négatives potentielles à mesure que la technologie de l'IA progresse.