Meta a diffusé des publicités pour une application promettant des deepfakes de femmes politiques

Meta a récemment diffusé des publicités pour une application d'intelligence artificielle nommée Kromix, qui aurait permis aux utilisateurs de générer du contenu sexuellement explicite, y compris des représentations de femmes politiques. Cet incident souligne les difficultés persistantes rencontrées par Meta pour empêcher la diffusion d'annonces pour des outils créant des images intimes non consensuelles sur ses plateformes.

Une publicité, décrite par WIRED, présentait Kromix comme un "styliste d'images IA" "sans restrictions" et suggérait que c'était "l'IA que les hommes utilisent vraiment". L'annonce mettait en scène une personne ressemblant à une femme politique américaine influente dans des situations évoluant vers du contenu explicite, accompagnée de légendes suggestives.

L'application Kromix, disponible sur l'App Store d'Apple avant la demande de commentaires de WIRED, proposait apparemment des fonctionnalités permettant aux utilisateurs payants de télécharger des images pour les utiliser dans divers scénarios, y compris ceux décrits comme des "viols dans la chambre". D'autres supports promotionnels suggéraient que l'application contenait de la pornographie générée par l'IA.

Les tentatives pour contacter les personnes référencées pour l'application Kromix afin d'obtenir des commentaires sont restées sans réponse. La présence de telles publicités sur la plateforme de Meta soulève des inquiétudes quant à l'efficacité des politiques de modération de contenu concernant les médias générés, sexuellement explicites et potentiellement nuisibles.