Le PDG d'Anthropic propose de ralentir le rythme du développement de l'IA

Le PDG d'Anthropic, Dario Amodei, a proposé de ralentir le rythme du développement de l'intelligence artificielle. Amodei a présenté un plan en trois étapes visant à donner aux entreprises et aux régulateurs plus de temps pour mettre en place des garde-fous et évaluer les modèles d'IA avancés.

Pour garantir la sécurité de ses modèles, Anthropic fournira aux évaluateurs tiers, tels que METR, un accès à ses modèles d'IA. Amodei a décrit cela comme une première étape que l'entreprise entreprend maintenant unilatéralement, déclarant qu'il est "temps de freiner" sur les modèles d'IA significatifs.

La deuxième étape du plan impliquerait une collaboration à l'échelle de l'industrie, potentiellement avec l'implication des gouvernements. Cependant, Amodei n'a pas précisé les mesures pratiques ou les accords que cela pourrait impliquer. La troisième étape du plan n'a pas été détaillée dans la déclaration fournie.

Amodei a souligné la nécessité de s'assurer que le développement de l'IA reste gérable et que ses risques potentiels soient identifiés et traités avant que de nouveaux modèles plus puissants ne soient déployés. Cette proposition intervient à un moment où l'avancement rapide de l'IA suscite à la fois de l'enthousiasme et des préoccupations quant à son impact sociétal.