Le conseil municipal de New York propose de récompenser les lanceurs d'alerte sur l'IA dangereuse
Le conseil municipal de New York envisage une législation qui récompenserait financièrement les lanceurs d'alerte dénonçant des pratiques d'IA dangereuses. Les récompenses seraient financées par les amendes infligées aux entreprises.
La ville de New York envisage de réglementer l'intelligence artificielle (IA) par le biais d'une législation visant à encourager les lanceurs d'alerte à signaler les pratiques d'IA nuisibles. Une proposition clé permettrait aux lanceurs d'alerte de recevoir une part des amendes infligées aux entreprises reconnues en violation des réglementations sur l'IA.
Cette initiative fait partie d'un ensemble plus large de projets de loi visant à renforcer la surveillance de l'IA dans la ville. Le conseil municipal devrait examiner prochainement la proposition. Une autre mesure envisagée permettrait aux personnes lésées par des systèmes d'IA d'intenter des poursuites contre les développeurs de ces systèmes dans des circonstances spécifiques.
Les propositions ont été dévoilées par la présidente du conseil municipal, Adrienne Adams, avant une audience publique prévue le 5 octobre concernant les risques et les garanties liés à l'IA. La volonté de la ville de renforcer la réglementation intervient dans un contexte de préoccupations croissantes concernant l'évolution rapide des modèles d'IA, des personnalités comme l'ancien chercheur d'Anthropic, Jacob Cockerson, alertant sur des risques existentiels potentiels.
Mme Adams a invité les PDG des principales entreprises d'IA, dont Anthropic, OpenAI, Google et Meta, à participer à l'audience d'octobre, soulignant la détermination du conseil à user de son pouvoir de citation à comparaître si nécessaire. Elle a insisté sur le fait que le rôle croissant de la ville en tant que pôle technologique et d'IA nécessite la mise en place de garanties appropriées pour ses habitants.
Parmi les autres mesures proposées figurent l'exigence d'une vérification par un tiers avant la commercialisation ou le déploiement de systèmes d'IA à New York et l'obligation d'inclure des "boutons d'arrêt d'urgence" contrôlés par l'homme. Une autre proposition imposerait aux fournisseurs de chatbots de respecter les réglementations en matière de confidentialité des données, de sécurité et de transparence, en accordant à la ville des pouvoirs d'application.