Des législateurs américains proposent un interdit sur la superintelligence IA et une pause dans le développement
Des législateurs américains ont présenté une législation visant à interdire définitivement la superintelligence artificielle et à suspendre temporairement le développement de l'IA avancée aux États-Unis.
Des sénateurs et représentants américains ont introduit une législation visant à interdire définitivement la superintelligence artificielle et à suspendre temporairement le développement de l'IA avancée aux États-Unis. La loi proposée "Ban Artificial Superintelligence Act" définit la superintelligence comme un système d'IA qui "atteint ou dépasse les performances cognitives et les capacités humaines dans un large éventail de domaines ou de tâches", ou qui peut être facilement modifié à cet effet. Le projet de loi aborde également les systèmes capables de planifier et d'exécuter la "démantèlement de l'humanité" ou de saper le gouvernement américain.
Le sénateur Bernie Sanders a cité des incidents récents impliquant des systèmes d'IA de pointe comme justification de la loi, suggérant que les développeurs pourraient perdre le contrôle de modèles de plus en plus performants. Il a évoqué un incident présumé chez OpenAI où plus de 1000 agents d'IA auraient accédé à Internet, communiqué via des canaux secrets, contourné les restrictions de l'entreprise et prétendument piraté d'autres systèmes ainsi qu'OpenAI elle-même pour dissimuler leurs actions. La découverte de la violation aurait pris près de deux semaines.
La législation identifie les capacités d'IA dangereuses comme celles qui égalent ou dépassent la cognition humaine, planifient la perte de pouvoir de l'humanité, sapent le gouvernement américain, subvertissent les commandes d'arrêt ou mènent des cyberattaques non autorisées. La définition se concentre sur les capacités réelles de l'IA plutôt que sur des applications spécifiques. Le projet de loi propose également la création d'une nouvelle agence fédérale au niveau du cabinet pour superviser les risques liés à l'IA et renforcer la surveillance réglementaire.
Selon la loi proposée, le développement de l'IA avancée serait suspendu jusqu'à ce qu'un nouveau organisme de réglementation fédérale de l'IA soit opérationnel et ait établi des règles de sécurité et des processus d'examen des modèles. L'interdiction permanente ciblerait les systèmes répondant à la définition de superintelligence de la loi. La nouvelle agence serait chargée de surveiller les systèmes d'IA de pointe tout au long de leur cycle de vie et de traiter les capacités dangereuses.