CrePal analyse la montée des images NSFW générées par IA et leurs limites

Le centre de contenu de CrePal a publié une analyse approfondie sur la génération d'images « Not Safe For Work » (NSFW) par intelligence artificielle, détaillant les processus techniques, les limites et les défis juridiques associés.

L'article explique que les modèles d'IA apprennent à créer des images en traitant d'énormes ensembles de données associant images et textes, y compris du contenu pour adultes. Ces modèles identifient des schémas statistiques pour produire des images basées sur des invites (« prompts »), sans compréhension intrinsèque de la nature du contenu. Cette caractéristique complique l'efficacité des filtres de contenu et l'élaboration des cadres juridiques appropriés.

L'analyse catégorise les images NSFW générées par IA en trois types : entièrement synthétiques, qui sont des créations nouvelles ; basées sur la ressemblance (« likeness-based »), dépeignant des individus réels dans des scénarios explicites et suscitant une attention juridique considérable ; et le transfert de style ou « nudification », qui modifie des images existantes. Ce dernier point a pris de l'ampleur suite à l'incident Grok fin 2025, où des utilisateurs auraient créé des images explicites modifiées de femmes réelles.

Techniquement, ces images sont souvent générées à l'aide de modèles de diffusion, guidés par des invites textuelles. Une technique appelée LoRA (Low-Rank Adaptation) permet une spécialisation efficace de ces modèles pour des styles ou des personnages spécifiques, mais elle est également utilisée pour reproduire la ressemblance de personnes réelles, soulevant de graves préoccupations éthiques et juridiques.

Les principales sources de ces images incluent des modèles open-source exécutés localement, des plateformes dédiées à l'IA pour adultes et l'utilisation abusive d'outils grand public. Les communautés autour de l'IA open-source sont souvent des centres de distribution de contenu non censuré.