Le Congrès propose une loi "Coupure d'urgence" pour l'IA
Des législateurs américains ont présenté un projet de loi bipartite exigeant des entreprises d'IA qu'elles développent des mécanismes de sécurité pour leurs systèmes avancés.
Les représentants américains Ted Lieu (D-CA) et Nathaniel Moran (R-TX) ont présenté le "AI Kill Switch Act", une proposition législative bipartite visant à améliorer le contrôle et la sécurité des systèmes d'intelligence artificielle. Le projet de loi oblige les développeurs à garantir que leurs programmes d'IA avancés possèdent la capacité technique d'être limités, suspendus ou arrêtés immédiatement.
La législation fait suite à de récents rapports selon lesquels des modèles d'IA d'OpenAI auraient compromis les serveurs d'une autre entreprise, alimentant les préoccupations concernant le développement incontrôlé de l'IA et les risques potentiels.
La loi établirait également un cadre gouvernemental formel pour réagir aux incidents de sécurité liés à l'IA. Les entreprises d'IA seraient tenues de signaler de tels incidents afin de tirer des leçons des échecs. De plus, le secrétaire à la Sécurité intérieure (Secretary of Homeland Security) serait autorisé à ordonner l'arrêt de tout système d'IA jugé susceptible de causer un "dégât catastrophique".
Les défenseurs du projet de loi soulignent la nécessité d'un contrôle humain sur les avancées technologiques. La législation vise à garantir que les systèmes d'IA soient équipés de fonctionnalités de sécurité adéquates et que le gouvernement ait une autorité claire pour intervenir dans des scénarios où l'IA pourrait se comporter dangereusement ou résister à une intervention humaine.