Anthropic a bloqué des tentatives d'utilisation de l'IA pour la recherche sur les armes biologiques

La société d'IA Anthropic a annoncé avoir stoppé plusieurs tentatives cette année par des scientifiques d'utiliser sa technologie pour des recherches pouvant aider au développement d'armes biologiques. Ces incidents suscitent des inquiétudes croissantes quant à la menace que représente l'IA pour la sécurité publique.

La startup a détaillé cinq cas où des acteurs ont "contourné les contrôles" et fait d'autres efforts pour "dissimuler" le but de leurs recherches afin de déjouer les mesures de sécurité. Ces cas impliquaient des utilisateurs de pays à l'accès aux modèles desquels Anthropic interdit l'accès, notamment la Russie, la Chine et l'Iran.

Anthropic a déclaré qu'en partageant ces exemples, elle espère susciter une discussion au sein de l'industrie de l'IA et avec les gouvernements sur les risques biologiques émergents et sur la meilleure façon de les contrer. L'entreprise a précédemment souligné son engagement à empêcher l'utilisation abusive de ses modèles à des fins malveillantes.

Cette évolution souligne les défis éthiques et sécuritaires posés par les progrès rapides de l'IA. Les entreprises du secteur sont constamment mises au défi de développer et d'améliorer leurs mécanismes de sécurité pour garantir que leurs créations ne tombent pas entre de mauvaises mains.