Organisme mondial de réglementation financière demande une surveillance humaine accrue des agents IA

Le Conseil de stabilité financière (FSB), organisme international établissant les normes mondiales en matière de réglementation financière, a appelé les banques et autres entreprises à renforcer la surveillance humaine des agents d'intelligence artificielle (IA). Cette exigence est incluse dans les directives finales concernant la gestion des risques liés à l'IA.

Les directives du FSB interviennent alors que les régulateurs du monde entier intensifient leurs efforts pour atténuer les risques liés à l'IA, y compris les menaces posées par les cyberattaques pilotées par l'IA. Un projet antérieur publié en juin avait fortement conseillé aux conseils d'administration des institutions financières de prendre en compte ces recommandations, avertissant que les agents IA pouvaient planifier et exécuter des tâches de manière autonome avec une supervision humaine limitée, présentant ainsi des défis uniques.

Sur la base des commentaires reçus et compte tenu de l'adoption croissante des agents IA par les institutions financières, ainsi que des risques inhérents et des exigences de contrôle de la technologie, les directives finales renforcent les recommandations de surveillance. Elles soulignent qu'une supervision humaine accrue est cruciale pour les applications d'IA à risque plus élevé. Les entreprises doivent également définir, en fonction des niveaux de risque, quand les agents IA nécessitent une approbation humaine avant de poursuivre leurs tâches.

Le FSB a également supprimé une suggestion antérieure selon laquelle les institutions financières devraient considérer l'IA comme un « employé virtuel ». Au lieu de cela, il souligne que les entreprises doivent reconnaître que les agents IA ne pensent pas comme les humains et peuvent interpréter des objectifs prédéfinis de manière inattendue.