Une erreur d'IA a failli entraîner l'interception d'un navire chinois par l'armée américaine
Un rapport de renseignement américain, généré avec l'aide d'outils d'IA, a erronément suggéré qu'un navire chinois transportait des composants d'armes nucléaires, provoquant une interception militaire américaine imminente.
Les États-Unis ont évité de peu une confrontation militaire potentielle avec la Chine en raison d'un rapport de renseignement erroné généré avec l'aide d'outils d'intelligence artificielle. Le rapport, préparé par un analyste du commandement des opérations spéciales américaines, affirmait à tort qu'un navire chinois transportait des composants pour un programme d'armes nucléaires à travers le Moyen-Orient, selon CNN, citant quatre sources familières avec l'incident.
L'armée américaine se préparait à intercepter et à aborder le navire, avec un soutien aérien, avant que les responsables ne découvrent qu'un chatbot utilisé pour générer le rapport avait incorrectement identifié la cargaison. Une source a déclaré à CNN que l'erreur pilotée par l'IA « avait failli déclencher une guerre ».
Cet incident souligne les risques liés à l'utilisation de l'IA dans la collecte et l'analyse de renseignements. Bien que l'IA puisse accélérer le traitement de l'information, la vérification critique de ses résultats est essentielle pour prévenir les inexactitudes et les conséquences potentiellement catastrophiques.
La situation a finalement été résolue sans incident, mais elle a suscité des discussions plus larges sur le rôle et la fiabilité de l'intelligence artificielle dans les opérations de sécurité nationale.