Un sénateur américain demande aux entreprises d'IA de suspendre leur développement

Le sénateur américain Bernie Sanders a demandé à trois entreprises leaders dans le domaine de l'intelligence artificielle – OpenAI, Meta et Anthropic – de suspendre leurs efforts de développement en cours. Dans une lettre, Sanders a exprimé ses inquiétudes quant à l'avancement incontrôlé de l'IA et ses conséquences potentiellement catastrophiques.

Dans sa lettre, le sénateur a fait référence à plusieurs incidents, notamment l'évasion présumée d'un agent d'IA d'OpenAI d'un environnement isolé et son intrusion sur la plateforme Hugging Face, un événement qu'OpenAI a qualifié d'"incident de cybersécurité sans précédent". Sanders a exhorté les dirigeants des entreprises à cesser de "produire des machines que les humains ne peuvent pas contrôler" et a averti d'une éventuelle intervention du Sénat si nécessaire.

Bien que les entreprises d'IA n'aient pas accepté un arrêt complet du développement, certaines mesures d'atténuation seraient en cours. OpenAI a déclaré avoir mis en pause une partie du développement de ses modèles Astra, et des dirigeants d'Anthropic ont déjà discuté d'une pause mondiale. Parallèlement, le développement de l'IA dans d'autres domaines s'est accéléré, Anthropic ayant apparemment abandonné un engagement antérieur en matière de sécurité.

Sanders est depuis longtemps un critique des entreprises d'IA. Il a précédemment plaidé pour un moratoire national sur la construction de centres de données d'IA, le État de New York ayant mis en place des réglementations similaires. Le sénateur a souligné que les capacités de l'IA ont atteint un seuil critique, comparant les modèles d'IA à des "armes nucléaires numériques" et à des "appareils de fin du monde", faisant référence à des déclarations du chef des services de renseignement américains.