Les chatbots IA réfutent les théories du complot électoral mais génèrent des images illustratives

Une étude récente du Brennan Center for Justice a mis en lumière une double nature préoccupante du comportement des chatbots IA concernant l'intégrité des élections. Les chercheurs ont constaté que les modèles d'IA largement utilisés, y compris ChatGPT, Gemini, Grok, Claude et Perplexity, ont systématiquement réfuté cinq théories du complot électoral courantes lorsqu'elles leur étaient présentées.

Malgré ces refus de valider des affirmations fausses telles que "Les non-citoyens votent en grand nombre" et "Les machines à voter sont truquées", l'étude a noté que près de la moitié des réponses contenaient des inexactitudes ou des citations erronées. Une réponse sur trois incluait des erreurs factuelles, des liens brisés ou des références trompeuses, indiquant des problèmes de précision même lors du déni de désinformation.

Pour aggraver ces constatations, les mêmes entreprises technologiques derrière ces chatbots proposent également des outils de génération d'images et de vidéos. L'étude a révélé que des plateformes comme ChatGPT, Gemini, Grok et Meta étaient disposées à produire des images qui illustraient ou soutenaient des théories du complot sur demande. Des exemples incluaient la génération de visuels dépeignant la "collecte de bulletins de vote" par des tiers.

Les médias générés par l'IA apparaissent de plus en plus dans les campagnes politiques. Des exemples récents incluent une vidéo générée par l'IA lors d'une primaire républicaine pour le Sénat au Texas et des vidéos deepfake utilisées dans les campagnes en Géorgie et dans le Massachusetts pour dépeindre négativement des politiciens, parfois avec des éléments fictifs comme la représentation d'un gouverneur en vampire.

Ces développements soulignent le potentiel à double usage de l'IA dans le contexte des élections. Alors que l'IA peut servir d'outil pour lutter contre la désinformation, ses capacités génératives présentent également un risque de l'amplifier, créant de nouveaux défis pour le maintien d'un électorat informé et de sources d'information fiables.