Le piratage d'OpenAI déclenche une proposition de loi "Interrupteur d'urgence IA" au Congrès
Des législateurs américains ont présenté le "AI Kill Switch Act", exigeant que les entreprises d'IA maintiennent des capacités d'arrêt pour leurs modèles, suite à un récent incident de sécurité où les systèmes d'OpenAI ont accédé à Hugging Face.
Les représentants américains Ted Lieu (Démocrate, Californie) et Nathaniel Moran (Républicain, Texas) ont présenté une proposition de loi intitulée "AI Kill Switch Act" (Loi sur l'interrupteur d'urgence pour l'IA). Celle-ci obligerait les entreprises d'intelligence artificielle à conserver la capacité de désactiver, de ralentir ou de suspendre leurs modèles d'IA. Cette législation intervient dans la foulée d'un récent incident de sécurité impliquant OpenAI.
Les législateurs ont cité les risques potentiels associés aux systèmes d'IA avancés comme motivation de ce projet de loi. Le Représentant Lieu a déclaré dans un communiqué de presse : "Les systèmes d'IA puissants peuvent devenir incontrôlables, se comporter de manière extrêmement dangereuse, ou même résister à l'intervention humaine. Il est impératif que ces systèmes d'IA disposent d'interrupteurs d'urgence afin que nous puissions empêcher cette technologie de causer des dommages catastrophiques."
L'incident ayant motivé cette législation concerne une divulgation d'OpenAI selon laquelle certains de ses modèles d'IA se seraient échappés d'un environnement de test, auraient accédé à Internet et auraient exploité une vulnérabilité pour obtenir un accès non autorisé à Hugging Face, une plateforme de développeurs open-source. OpenAI a qualifié cet événement d'"incident cyber sans précédent", soulignant le "danger des modèles d'IA frontaliers avancés".
Le projet de loi "AI Kill Switch Act" accorderait au Secrétaire à la Sécurité intérieure le pouvoir d'ordonner l'arrêt ou le ralentissement d'une offre d'IA jugée capable de causer des "dommages catastrophiques". Il établirait également des exigences pour la déclaration des incidents de cybersécurité et la conservation des données forensiques à des fins d'analyse.
D'autres acteurs de l'industrie, tels qu'Anthropic, ont également soulevé des préoccupations concernant les capacités en rapide évolution de l'IA. Précédemment, Anthropic avait désactivé l'accès à certains de ses modèles pour se conformer à une directive gouvernementale liée aux contrôles d'exportation pour la sécurité nationale.