Le co-fondateur de Google DeepMind propose un organisme de surveillance de l'IA

Demis Hassabis, co-fondateur de Google DeepMind, a proposé la création d'un nouvel organisme de surveillance dirigé par les États-Unis pour examiner les préoccupations de sécurité concernant les modèles d'IA avancés.

Hassabis suggère que cette nouvelle organisation, financée par l'industrie et supervisée au niveau fédéral, pourrait commencer ses opérations d'ici la fin de 2026. Sa mission consisterait à tester les modèles d'IA les plus sophistiqués au monde avant leur lancement, et potentiellement à interdire les systèmes jugés dangereux du marché américain.

La proposition, détaillée dans un article sur Substack, vise à remplacer les interventions gouvernementales ponctuelles par des règles plus claires et standardisées. Hassabis a établi un parallèle avec la Financial Industry Regulatory Authority (FINRA), l'organisme d'autoréglementation de Wall Street.

Dans un premier temps, les développeurs d'IA pourraient soumettre volontairement leurs modèles à un examen jusqu'à 30 jours avant leur lancement. Ces tests évalueraient le potentiel des modèles à faciliter des cyberattaques, des menaces biologiques ou des comportements trompeurs. Les futures itérations pourraient rendre cet examen obligatoire pour certains modèles dits « de pointe », y compris les systèmes étrangers et open-source pénétrant le marché américain.

« Nous pensons que l'organe de normalisation peut commencer comme une organisation volontaire dirigée par l'industrie, qui sera formalisée à l'avenir par la loi ou un décret présidentiel », a déclaré Owen Larter, directeur senior de la politique et des affaires mondiales de l'IA de pointe chez Google.