Un projet de loi américain propose de restreindre l'auto-amélioration de l'IA
Un membre du Congrès américain a présenté une loi qui interdirait à l'IA de s'améliorer récursivement avant la mise en place de mécanismes de sécurité gouvernementaux.
Le représentant américain Ro Khanna a proposé un nouveau projet de loi visant à réglementer le développement et le déploiement de l'intelligence artificielle (IA). La législation proposée interdirait aux systèmes d'IA de s'améliorer récursivement ou de modifier leurs objectifs fondamentaux, leurs méthodes de confinement ou leurs contrôles d'arrêt avant que le gouvernement n'ait établi des mesures de sécurité et des mécanismes de surveillance suffisants.
Le projet de loi, intitulé "Human Control Over AI Act" (Loi sur le contrôle humain de l'IA), vise à répondre aux préoccupations croissantes concernant les risques potentiels liés à l'IA avancée, y compris la perte de contrôle et l'utilisation abusive. Khanna a déclaré que la législation est destinée à atténuer les risques qui pourraient constituer une menace pour la civilisation.
Conformément à la proposition, une nouvelle agence fédérale serait créée pour élaborer des réglementations de sécurité pour l'IA. Cette agence superviserait la licence, la formation et le déploiement des modèles d'IA, mènerait des audits et fixerait des normes de sécurité pour garantir que l'IA reste sous contrôle et test humain continus.
La législation obligerait également les principaux laboratoires d'IA à employer des auditeurs indépendants qui rendraient compte directement à la nouvelle agence. Des sanctions plus strictes, y compris la responsabilité pénale, sont proposées pour les incidents liés à l'IA entraînant des dommages catastrophiques ou pour les employés qui désactivent les fonctions de sécurité. Les entreprises seraient également tenues de souscrire une assurance responsabilité civile complète avant de publier des modèles d'IA.