Le gouverneur de la Banque d'Angleterre : Réglementer l'IA n'est « pas le bon point de départ »

Andrew Bailey, gouverneur de la Banque d'Angleterre, a déclaré que la réglementation de l'intelligence artificielle (IA) « n'est pas le bon point de départ ». Il a plutôt appelé à des tests « rigoureux » pour identifier les vulnérabilités et établir des garde-fous pour le confinement des risques.

Bailey, écrivant dans son tout premier article pour Substack, a qualifié les risques liés à l'IA de « réels et de plus en plus importants ». Il s'est prononcé contre l'arrêt du développement de l'IA, notant ses immenses avantages, mais a souligné la nécessité de systèmes d'intervention et de frontières claires pour les opérations de l'IA.

Le débat sur les risques potentiels du développement rapide de l'IA s'est intensifié récemment, les dirigeants d'entreprises d'IA telles qu'Anthropic et OpenAI appelant à un ralentissement et à une coordination internationale sur l'évaluation des risques et la mise en place de garde-fous. OpenAI a récemment reporté la sortie de son dernier modèle d'IA en raison de préoccupations de sécurité.

Au Royaume-Uni, Bailey a souligné les « travaux importants » en cours dans les tests d'IA, mentionnant la création de l'AI Safety Institute, qui, selon lui, devrait contribuer à l'élaboration d'un ensemble de normes. « Mais le rythme des progrès doit s'accélérer », a-t-il déclaré, ajoutant : « Nous devrions procéder avec une certaine humilité. »

Bailey a reconnu que les tests entraîneront des échecs et des comportements inattendus des modèles, déclarant : « Ce n'est pas la preuve que les tests ont échoué, mais plutôt la preuve de la nécessité des tests. » Il a cependant précisé que les tests ne devraient pas être considérés comme une alternative à la réglementation future, car un cadre réglementaire plus formel pourrait émerger avec le temps. « Mais la réglementation n'est, à mon avis, pas le bon point de départ. »