Le PDG de Google DeepMind appelle les États-Unis à diriger un organisme de normalisation de l'IA

Demis Hassabis, le dirigeant de Google DeepMind, a appelé les États-Unis à prendre l'initiative de créer un nouvel organisme de normalisation. Cette organisation serait chargée de tester les nouveaux modèles d'intelligence artificielle de pointe et d'évaluer les risques potentiels pour la sécurité nationale, y compris la cybersécurité et les menaces biologiques.

Hassabis, lauréat du prix Nobel, a déclaré sur X que des "actions urgentes" sont nécessaires pour traiter les risques associés à l'intelligence artificielle générale (IAG), le point auquel l'IA devrait égaler ou dépasser l'intelligence humaine. Il a noté que "les défis que les modèles de pointe posent à la cybersécurité" ont déjà été observés, et que d'autres menaces telles que les risques nucléaires et biologiques pourraient apparaître à mesure que les capacités progressent.

Il a proposé un partenariat public-privé dirigé par les États-Unis, supervisé par le gouvernement fédéral, comme solution. Cette suggestion intervient dans un contexte de compétition accrue entre les États-Unis et la Chine dans le développement et le déploiement de l'IA. Hassabis estime que les États-Unis sont bien placés pour diriger le développement d'un cadre d'IA en raison de leur position économique et technique.

Hassabis a suggéré de modéliser l'organisme sur le FINRA, une organisation d'autoréglementation pour les sociétés de courtage aux États-Unis, avec un conseil composé d'experts techniques indépendants et de représentants de l'open source. Il a indiqué que l'organisme proposé nécessiterait un financement substantiel de la part de l'industrie pour attirer les meilleurs talents et fournir les ressources informatiques nécessaires aux tests à grande échelle.