Le projet de loi de Khanna interdit la technologie 'récursive' d'IA sans garanties

Le représentant Ro Khanna s'apprête à présenter une législation visant à réglementer le développement et le déploiement de l'intelligence artificielle (IA). Le projet de loi, intitulé "Human Control Over AI Act" (Loi sur le contrôle humain de l'IA), cherche à garantir la supervision et la sécurité humaines au milieu des progrès rapides de la technologie de l'IA.

Un élément clé de la législation proposée est l'interdiction des modèles d'IA dits « récursifs ». Il s'agit de systèmes capables de s'auto-améliorer continuellement ou de modifier de manière autonome leurs objectifs principaux, leurs mécanismes de sécurité ou leurs commandes d'arrêt. L'interdiction resterait en vigueur tant que des garde-fous fédéraux ne seraient pas établis et approuvés.

Le projet de loi intervient dans un contexte de préoccupations croissantes quant à la possibilité que la technologie de l'IA échappe au contrôle humain. Des dirigeants de premier plan dans le domaine ont mis en garde contre les risques potentiels, incitant le Congrès à établir des cadres législatifs pour la surveillance.

La proposition comprend également la création d'une nouvelle agence fédérale chargée de superviser les modèles d'IA avancés et d'établir un système de licence pour la formation et le déploiement des modèles. Elle exigerait également une assurance responsabilité civile étendue pour les entreprises avant de publier des modèles et vise à dissuader le développement de systèmes d'IA dangereux par des adversaires étrangers.