Apple supprime 19 applications contenant des fonctions de deepfake illicites

Apple a procédé au retrait de 19 applications de sa boutique en ligne après que des enquêtes ont révélé leur utilisation pour dissimuler des outils de création de deepfakes à caractère sexuel violent. Les applications se présentaient sous l'apparence de services courants, tels que des outils pour animaux de compagnie ou l'apprentissage des langues, utilisant des interfaces dynamiques basées sur la localisation de l'utilisateur pour tromper la vigilance des modérateurs.

Les développeurs ont exploité une technique de remplacement de contenu après validation pour modifier les fonctionnalités des applications une fois installées. Le réseau a également utilisé des publicités sur Facebook et Instagram pour attirer les utilisateurs, certaines publicités incluant des images générées par intelligence artificielle représentant des abus sexuels sur mineurs.

Google a également supprimé la plupart des applications concernées du Google Play Store, où certaines étaient classées comme adaptées à tous les âges et totalisaient plus de 350 000 téléchargements. Meta a pour sa part annoncé avoir bloqué 11 600 comptes publicitaires liés à ce réseau et interdit la promotion de 209 applications sur ses plateformes.