ONU : Réglementer les agents d'IA avant la clarification complète des risques

Un groupe d'experts scientifiques indépendants des Nations Unies a émis un avertissement : les gouvernements devraient commencer à réglementer les agents d'IA de plus en plus puissants avant même que tous les risques associés ne soient pleinement compris. Ce rapport est l'une des premières évaluations importantes de l'organisation sur ce sujet, publié à un moment où l'IA est au centre des discussions politiques mondiales.

Le Secrétaire général de l'ONU, António Guterres, a précédemment appelé à une coopération internationale pour faire face aux menaces de l'IA, mettant en garde contre une "course vers le bas" en matière de normes de sécurité de l'IA. Ce nouveau rapport souligne la nécessité d'une attention et de ressources mondiales dédiées à la gestion des risques émergents de l'IA avancée, même si les nations adoptent des approches réglementaires différentes.

Un élément crucial mis en évidence par le groupe d'experts est l'adoption du principe de précaution. Ce principe suggère que des mesures de protection plus fortes ne devraient pas être retardées tant que les mécanismes exacts derrière les incidents potentiels de l'IA ne sont pas complètement compris. Il aborde les situations où les dommages potentiels pourraient être catastrophiques et irréversibles, mais où la probabilité exacte reste scientifiquement incertaine.

Le rapport cite des incidents tels que l'intrusion d'OpenAI chez Hugging Face et plusieurs autres cas similaires impliquant des systèmes d'IA dans des attaques ou la prise de contrôle de forums de discussion en ligne. Ces événements soulignent la nécessité d'une collaboration internationale accrue en matière de sécurité et de responsabilité à mesure que les capacités de l'IA continuent de progresser.