Vidéo promotionnelle falsifiée par IA de l'actrice Wu Yue entraînant la suspension du compte

L'actrice chinoise Wu Yue a révélé qu'un compte vidéo de WeChat, "Flower Sister Beauty Diary", a utilisé l'intelligence artificielle pour créer une vidéo promotionnelle frauduleuse la mettant en scène. Cet incident a entraîné la fermeture permanente du compte et la suppression de son contenu.

Wu Yue a fourni des preuves démontrant que le compte avait eu recours à l'IA pour générer une vidéo manipulant son image et sa voix. Le contenu présentait une version IA de l'actrice faisant la promotion de produits, en utilisant prétendument des images de ses apparitions publiques. L'audio synthétisé montrait "Wu Yue" vantant un produit, affirmant faussement avoir initié la collaboration.

Des représentants de l'équipe WeChat ont confirmé au journal The Paper que le compte en question a été suspendu de manière permanente et que tout son contenu a été supprimé. Cette mesure intervient dans le cadre d'une répression plus large par les régulateurs chinois de l'internet contre les pratiques trompeuses et la manipulation d'identité dans les contenus vidéo courts.

L'Administration du cyberspace de Chine (CAC) a récemment lancé une campagne de deux mois ciblant le "chaos des fausses personnalités" sur les plateformes de vidéos courtes. L'initiative vise spécifiquement à combattre l'utilisation abusive de l'IA pour l'usurpation d'identité, y compris la création de faux contenus audiovisuels pour dénigrer des personnalités publiques à des fins de promotion et de marketing non autorisés.