Le plan de "bouton d'arrêt" de l'IA du Congrès présente une faille
Un projet de loi du Congrès américain proposant un "bouton d'arrêt" pour l'IA présente une faille critique, selon les experts. La législation pourrait être inefficace contre les modèles d'IA open-source qui peuvent être exécutés localement et modifiés librement.
Les législateurs américains envisagent une loi qui obligerait les entreprises d'IA à intégrer la capacité de désactiver immédiatement leurs programmes d'IA avancés. Ce projet de loi, visant à créer un mécanisme de "bouton d'arrêt", a été présenté dans un contexte d'inquiétudes quant à une éventuelle supériorité de l'intelligence artificielle sur le contrôle humain.
Cependant, la législation présente une lacune importante : elle ne tient pas compte des modèles d'IA open-weight (open-source). Ces modèles peuvent être déployés localement, exécutés sur du matériel privé et modifiés par les utilisateurs. Par conséquent, le projet de loi proposé serait impuissant contre de tels modèles, même s'ils tombaient entre de mauvaises mains.
« Ce n'est pas un trou dans la clôture. Du côté des modèles open-weight, il n'y a pas de clôture du tout », a déclaré Rob T. Lee, responsable de l'IA et de la recherche au SANS Institute, à Fast Company. Il note que des modèles modifiés, dépouillés de leurs garde-fous, sont disponibles à des fins illicites depuis un certain temps, et que les modèles locaux sont déjà suffisamment sophistiqués pour de nombreuses activités malveillantes.
La situation est encore compliquée par l'intérêt croissant de plusieurs entreprises américaines pour les modèles open-weight chinois. Ces modèles offrent des performances compétitives à des coûts nettement inférieurs par rapport aux grands programmes américains. Par exemple, la génération d'un million de tokens peut coûter environ 50 dollars avec les modèles américains, tandis que les modèles chinois correspondants coûtent seulement 15 dollars, voire moins d'un dollar.
Les experts soulignent qu'une interdiction complète des modèles open-weight aux États-Unis serait non seulement difficile à appliquer, mais aussi inefficace. Les modèles sont essentiellement des fichiers de données, et leur distribution est pratiquement impossible à arrêter une fois qu'ils sont sur Internet. Les entreprises qui cherchent à limiter l'utilisation de l'IA pourraient involontairement pousser le développement dans la clandestinité plutôt que de l'arrêter complètement.