La stratégie IA de l'ONU ignore les laboratoires qui la développent
La nouvelle stratégie de l'ONU en matière d'IA se concentre sur son utilisation et sa gouvernance, mais laisse le développement et l'évaluation des systèmes d'IA de pointe en dehors de la portée directe de l'organisation.
La Semaine Numérique de Genève a débuté le 6 juillet avec le Dialogue Mondial sur la Gouvernance de l'IA et le Sommet Mondial AI for Good, où le nouveau Panel Scientifique International Indépendant des Nations Unies sur l'Intelligence Artificielle a présenté sa première évaluation scientifique mondiale de l'IA aux gouvernements.
Cette réunion couronne trois années de travail de l'ONU sur l'IA, axées principalement sur la demande : exploiter l'IA pour les objectifs de développement durable, surveiller les effets sociétaux et établir des garde-fous éthiques. Cependant, l'offre – là où l'IA de pointe est produite, évaluée et publiée – manque d'une présence significative de l'ONU.
Il n'existe aucun organisme multilatéral doté de personnel technique pour examiner le travail des laboratoires, ni d'infrastructure partagée pour le signalement d'incidents transfrontaliers ou l'évaluation des cycles d'entraînement. L'architecture de gouvernance se consolide actuellement par des accords bilatéraux entre les laboratoires de pointe et les gouvernements hôtes, souvent influencés par des entités privées et des contrôles à l'exportation.
Cela laisse l'autorité de déterminer l'accès aux technologies d'IA de pointe résider par défaut dans des administrations nationales uniques, suscitant la frustration chez d'autres nations. L'ONU a un précédent pour ce type de surveillance technique, comme l'Agence Internationale de l'Énergie Atomique (AIEA), qui surveille la production de matières nucléaires.
L'agenda de réforme UN80 de l'ONU offre une opportunité de combler cette lacune. La création d'une petite unité d'évaluation permanente utilisant les ressources existantes de l'ONU pourrait inviter les laboratoires à étendre leurs accords volontaires au-delà des partenaires bilatéraux actuels. Cela conférerait aux laboratoires une crédibilité mondiale, les protégerait de la fragmentation réglementaire et garantirait que l'engagement de l'ONU s'étende à l'endroit où l'IA est produite, pas seulement là où ses conséquences se font sentir.