Sécurité IA : L'autorégulation remise en question après un accord industriel
Des dirigeants de l'industrie de l'IA ont signé un accord de sécurité avec le gouvernement américain, mais les critiques doutent de son efficacité, citant des précédents historiques où la régulation gouvernementale, et non l'autorégulation, a amélioré la sécurité.
Un récent accord entre les principales entreprises d'intelligence artificielle et le gouvernement américain vise à améliorer la sécurité de l'IA, mais cette entente repose fortement sur l'autorégulation de l'industrie, suscitant le scepticisme des experts.
Les parallèles historiques suggèrent que l'autorégulation est insuffisante. Dans les années 1960, l'industrie automobile a résisté aux caractéristiques de sécurité obligatoires jusqu'à ce que la législation fédérale, telle que le National Traffic and Motor Vehicle Safety Act de 1966, impose les ceintures de sécurité. Cela a entraîné une réduction significative des décès sur les routes, malgré une utilisation accrue des véhicules.
Contrairement au secteur automobile, l'IA manque de métriques de sécurité facilement quantifiables ou d'équivalents directs à des dispositifs comme les ceintures de sécurité. L'évolution rapide de l'IA et son rôle intégral dans l'économie présentent également des défis pour la mise en œuvre d'une surveillance stricte sans risquer de perturbations économiques. Les préoccupations vont de l'utilisation abusive potentielle aux risques existentiels, bien que la nature exacte et le calendrier de ces dommages restent sujets à débat.
Les dirigeants de l'industrie ont évoqué la nécessité de "rythmer l'avancée", mais l'application mondiale de telles mesures est difficile, notamment en raison de la concurrence internationale, en particulier avec la Chine, qui poursuit indépendamment son développement en IA. L'accord actuel semble être une étape préliminaire, manquant de mécanismes d'application concrets et reposant sur la conformité volontaire des entreprises elles-mêmes.