Le PDG de DeepMind propose un organisme indépendant pour la régulation de l'IA

Le PDG de Google DeepMind, Demis Hassabis, a proposé la création d'un nouvel organisme de réglementation indépendant pour superviser le développement et le déploiement des modèles d'intelligence artificielle dits "de pointe". Hassabis a présenté cette idée dans un message publié sur X mardi, intitulé "A Framework for Frontier AI and the Dawning of a New Age".

L'organisation proposée fonctionnerait sur un modèle similaire à celui de la Financial Industry Regulatory Authority (FINRA) dans le secteur financier. Sa mission consisterait à tester les modèles d'IA les plus avancés et à élaborer des meilleures pratiques pour leur mise en œuvre. Dans un premier temps, les laboratoires d'IA de pointe soumettraient volontairement leurs modèles à un examen jusqu'à 30 jours avant leur publication.

Hassabis envisage qu'une fois le protocole d'évaluation démontré comme efficace et robuste, une formalisation pourrait suivre, exigeant que les modèles de pointe réussissent cet examen pour être déployés sur le marché américain. L'organisme travaillerait également avec les laboratoires pour remédier aux éventuelles vulnérabilités critiques post-lancement. Cette approche vise à améliorer les précédentes évaluations ad hoc du gouvernement américain, critiquées pour leur manque d'expertise technique et leur opacité.

La proposition suscite des réserves dans l'industrie, un conseiller de la Maison Blanche sur l'IA ayant précédemment rejeté l'idée d'une "FDA pour l'IA". L'établissement de cet organisme en tant qu'organisation d'autoréglementation, à l'instar de la FINRA, pourrait potentiellement répondre à ces préoccupations. Hassabis suggère que l'organisme serait composé de représentants de l'open source et d'experts techniques du secteur, financé par les laboratoires d'IA.