Des voix générées par IA dans les applications de rencontre frauduleuses, selon des chercheurs
Des chercheurs en sécurité ont identifié une nouvelle vague d'arnaques sur les applications de rencontre utilisant des voix générées par IA. Une application frauduleuse nommée Dora utilisait de l'audio synthétisé pour usurper une identité.
Les escrocs utilisent désormais l'intelligence artificielle pour créer des systèmes de fraude sophistiqués dans les applications de rencontre, selon une analyse récente du chercheur en sécurité Matthew Gore-Kormanik.
Lors de l'examen d'une application de rencontre frauduleuse identifiée sous le nom de Dora, Gore-Kormanik a reçu un appel simulé d'une personne nommée Jennifer. Le profil décrivait Jennifer comme une sagittaire de 41 ans avec des caractéristiques physiques et des centres d'intérêt spécifiques. Cependant, en répondant à l'appel vidéo, Gore-Kormanik n'a observé qu'une tapisserie en mouvement et entendu des bruits de fond distordus, sans aucune représentation visuelle de Jennifer.
Après l'appel infructueux, l'escroc, se faisant passer pour Jennifer, a envoyé un message commentant positivement l'interaction et la voix de Gore-Kormanik. Cela suggère que l'IA n'a pas seulement été utilisée pour générer la voix, mais aussi pour élaborer des réponses conversationnelles.
Cette découverte met en lumière une tendance croissante où la technologie de l'IA est utilisée à des fins frauduleuses, passant des simples fraudes textuelles à des impersonations audio plus immersives. L'incident soulève des préoccupations quant à la sophistication croissante des escroqueries en ligne et au potentiel d'utilisation malveillante de l'IA.