Axians alerte sur la menace croissante des deepfakes

L'entreprise de services informatiques Axians met en lumière la menace grandissante des deepfakes, ces faux contenus vidéo et audio générés par intelligence artificielle (IA). Elle avertit que les criminels exploitent de plus en plus cette technologie à des fins d'ingénierie sociale, pour contourner les systèmes d'authentification et mener des campagnes de désinformation.

Les deepfakes permettent de manipuler des visages et des voix, projetant des individus dans des contextes altérés ou leur faisant dire des choses qu'ils n'ont jamais dites. Axians décrit un scénario où un employé effectue un virement urgent suite à un appel téléphonique deepfake imitant la voix de son supérieur, pour ensuite découvrir que ce dernier ignorait la demande.

Ces manipulations pilotées par l'IA sont employées dans diverses formes d'attaques. Elles peuvent inclure des tentatives de phishing ciblées pour dérober des informations sensibles telles que des identifiants de connexion ou des secrets commerciaux, ou faciliter des fraudes dites "au président" visant à obtenir indûment des fonds. De plus, les deepfakes sont utilisés pour tromper les systèmes de sécurité biométriques, comme l'authentification vocale ou vidéo utilisée pour l'identification à distance.

Axians souligne que si la technologie progresse rapidement, rendant les deepfakes toujours plus réalistes, certains signes de falsification peuvent encore être détectés par une observation attentive. L'entreprise conseille la vigilance et suggère de rechercher des anomalies telles que des expressions faciales non naturelles, des transitions floues autour du visage, l'absence de clignements d'yeux ou une qualité vidéo incohérente. Une évaluation critique de la source et du contexte des médias numériques est également primordiale.

La technologie sous-jacente repose sur des réseaux neuronaux sophistiqués et l'apprentissage profond, qui analysent de vastes ensembles de données pour imiter les traits du visage et la parole humaine. Les techniques de "faceswapping" remplacent les visages dans les vidéos, tandis que le "face reenactment" manipule les expressions et mouvements faciaux en temps réel. De même, les méthodes "Text-to-Speech" et "Voice Conversion" sont utilisées pour la manipulation audio. Bien que la technologie offre des applications créatives, son usage malveillant devrait s'intensifier.