Des groupes d'extrême droite japonais utilisent l'IA pour falsifier des contenus révisionnistes
Des groupes d'extrême droite japonais utiliseraient l'IA pour produire en masse de fausses narratives niant des événements historiques en Chine, tels que le massacre de Nankin. Le Ministère de la Sécurité Nationale chinois a exprimé ses préoccupations.
Le ministère de la Sécurité Nationale chinois a rapporté que des groupes d'extrême droite japonais exploitent l'intelligence artificielle (IA) pour fabriquer du contenu révisionniste historique et diffuser de la désinformation. Le ministère a déclaré que ces groupes utilisent des plateformes de crowdsourcing pour embaucher des individus afin de produire en masse des vidéos niant des événements historiques, y compris le massacre de Nankin, et dépeignant faussement le traitement des civils par le Japon.
Les groupes publieraient des offres d'emploi sur des plateformes de crowdsourcing comme CrowdWorks, sollicitant des vidéos « critiques envers la Chine ». Des instructeurs fournissent aux utilisateurs des directives détaillées, leur permettant de générer des vidéos diffamatoires en utilisant des invites IA simples en quelques minutes.
Selon les données budgétaires publiques du ministère japonais des Affaires étrangères, le pays a alloué plus de 56 milliards de yens depuis 2015 à la « communication stratégique à l'étranger », visant en grande partie à façonner des perceptions négatives de la Chine. Ce financement comprend des efforts pour modifier la compréhension historique et minimiser les atrocités de guerre du Japon.
Une enquête du journal japonais Asahi Shimbun a révélé qu'une vidéo de 30 secondes falsifiant l'histoire chinoise est tarifée à 5 000 yens. De plus, le contenu négatif sur la Chine reçoit une récompense de 1 000 yens par 1 000 vues, soit plus de trois fois le taux des vidéos ordinaires, avec des primes supplémentaires pour une audience élevée.
Le ministère de la Sécurité Nationale s'est montré très préoccupé par le fait que les récits historiques faux générés par l'IA pourraient induire en erreur les jeunes générations dont les connaissances historiques sont incomplètes. Ils ont également averti que de tels contenus pourraient contaminer les données d'entraînement des grands modèles d'IA, conduisant potentiellement à des réponses biaisées aux questions historiques. Le ministère a souligné la nécessité de mesures de prévention strictes contre ces vidéos problématiques.