Les décisions d'IA à Wall Street : la propagation rapide des erreurs

La diffusion rapide et la correction ultérieure d'une fausse allégation concernant une éventuelle politique tarifaire américaine en avril 2025 ont entraîné des fluctuations du marché d'environ 2,4 billions de dollars en quelques minutes. Cet épisode souligne les défis des systèmes de trading automatisés réagissant à des informations non vérifiées.

Wall Street utilise depuis longtemps des flux d'actualités lisibles par machine pour le trading à haute fréquence, mais l'autorité croissante accordée aux agents d'IA introduit de nouvelles complexités. Ces agents peuvent collecter, interpréter et agir sur des informations, rendant la qualité et la crédibilité des données primordiales. L'incident a montré à quelle vitesse les marchés peuvent réagir à des nouvelles non fondées, même si elles sont ensuite retirées.

Au-delà des simples mensonges, même une information exacte peut être problématique si son contexte est mal compris. Un rapport fictif détaillant des scénarios économiques dus à l'impact de l'IA sur le chômage et les marchés est devenu viral. Bien que clairement étiqueté comme un exercice de réflexion, les investisseurs ont commencé à traiter ses projections comme des données factuelles sur l'économie réelle.

Bien qu'il existe des technologies pour convertir le contenu web en données structurées pour l'IA, le système doit toujours en interpréter la pertinence et le poids. L'établissement de la crédibilité de la source est crucial, mais il ne garantit pas une prise de décision correcte. Les agents automatisés nécessitent des données spécifiques à l'entreprise, des politiques et des limites claires pour fonctionner efficacement.

Lorsque les agents d'IA reçoivent une autorité, les erreurs peuvent se propager rapidement à travers plusieurs systèmes. Une mauvaise classification ou interprétation par un agent peut amener les systèmes suivants à agir sur des informations erronées avant que la supervision humaine ne puisse intervenir. Les entreprises doivent établir des processus prédéfinis pour la révision humaine dans des situations critiques afin d'assurer la responsabilité, car celle-ci ne peut être déléguée à l'IA.