Les "deepfakes" basés sur l'IA émergent dans les campagnes électorales

Les vidéos générées par l'intelligence artificielle (IA), communément appelées deepfakes, sont devenues une caractéristique notable des campagnes politiques, apparaissant lors des récentes élections primaires. Ces médias synthétiques peuvent induire les électeurs en erreur en dépeignant des candidats disant ou faisant des choses qu'ils n'ont pas faites, malgré les tentatives en cours de divers États pour réglementer le déploiement de cette technologie.

Dans une course tendue au Sénat du Michigan, une vidéo d'attaque, probablement créée par l'IA, a dépeint le candidat démocrate Abdul El Sayed entrant dans l'État via un cheval de Troie aux côtés de figures démocrates nationales. Cette vidéo a suscité des millions de vues sur les réseaux sociaux. De même, dans la course au poste de gouverneur du Massachusetts, la campagne d'un candidat républicain a utilisé des vidéos générées par l'IA, y compris une publicité sur le thème d'Halloween, pour cibler le gouverneur sortant.

Ces incidents reflètent une tendance plus large consistant à utiliser l'IA pour la recherche d'opposition politique et la diffamation. Par exemple, dans une course au Sénat du Texas, une version générée par l'IA d'un candidat a été utilisée pour réciter d'anciens messages controversés sur les réseaux sociaux. À New York également, des comptes anonymes ont utilisé l'IA pour créer des électeurs locaux synthétiques critiquant un maire nouvellement élu.

Plusieurs États ont adopté des lois visant à limiter l'utilisation de l'IA dans la publicité politique. Ces lois traitent de l'IA trompeuse et des répliques numériques non consensuelles. Certains États exigent la divulgation de l'utilisation de l'IA dans les publicités politiques, tandis que d'autres interdisent les deepfakes non consensuels destinés à nuire aux candidats. Cependant, aucune loi fédérale spécifique ne régit les deepfakes dans les élections.

Malgré ces réglementations, la création et la diffusion de contenu politique généré par l'IA restent relativement faciles. De nombreux États n'ont pas de restrictions, et il peut être difficile d'empêcher la propagation de tels contenus ou de s'assurer que les clauses de non-responsabilité restent visibles. Bien que des recours juridiques puissent exister, leur efficacité à modifier les résultats des élections est incertaine. Il est également possible que les électeurs soient désensibilisés à ces tactiques, quelle que soit leur sophistication technologique.