Le ministère de la Sécurité d'État chinois alerte sur les risques du clonage vocal par IA

Le ministère de la Sécurité d'État chinois a publié un avertissement concernant les risques potentiels liés à la technologie de clonage vocal par intelligence artificielle (IA). Le ministère a souligné que, puisque l'IA peut désormais reproduire des voix humaines de manière rapide et précise, son utilisation abusive pourrait perturber l'ordre social et mettre en danger la propriété publique.

Le ministère a identifié trois caractéristiques clés du clonage vocal par IA : sa rapidité, permettant le clonage d'une voix en seulement 3 à 5 secondes ; son réalisme, des études montrant que le public a du mal à distinguer les voix synthétisées de haute qualité des voix réelles ; et sa facilité d'utilisation, de nombreuses plateformes en ligne proposant des fonctionnalités de "clonage vocal" au grand public.

Ces capacités présentent trois risques majeurs. Des acteurs malveillants peuvent collecter des échantillons vocaux des familles des victimes pour synthétiser des appels frauduleux, créant des scénarios urgents pour des escroqueries financières. Des contenus audio et vidéo falsifiés utilisant des voix de célébrités clonées sont apparus sur diverses plateformes à des fins publicitaires et de génération de trafic, portant atteinte aux droits des personnes. De plus, des voix clonées de fonctionnaires et de personnalités publiques peuvent être utilisées pour fabriquer de fausses déclarations ou des interprétations de politiques, diffusant ainsi de la désinformation via les réseaux sociaux.

Pour contrer ces menaces, la Chine a établi un cadre juridique. La protection de la voix d'un individu est traitée de manière similaire au droit à l'image dans le Code civil, faisant de la copie, de la synthèse ou de la distribution non autorisées d'une parole reconnaissable une infraction. Des réglementations telles que les "Mesures intérimaires pour la gestion des services d'intelligence artificielle générative" imposent des responsabilités aux plateformes, notamment la vérification des utilisateurs et la traçabilité du contenu.

Le ministère de la Sécurité d'État exhorte les plateformes en ligne à assumer leurs responsabilités principales en supprimant les outils illicites, en améliorant la révision du contenu et en mettant en œuvre des mécanismes d'alerte. Les acteurs de l'industrie sont invités à respecter les normes éthiques, tandis que le public est conseillé de protéger ses données vocales personnelles, d'utiliser l'authentification multi-facteurs pour les vérifications sensibles et de signaler les cas d'infraction ou de fraude aux autorités.