CrePal analyse les politiques des générateurs d'images IA sur le contenu NSFW

Le Centre de Contenu de CrePal a publié une analyse approfondie des générateurs d'images IA, axée sur leurs politiques relatives au contenu Non Sûr Pour le Travail (NSFW). L'article soutient que le nombre de plateformes autorisant réellement le matériel NSFW est bien inférieur à ce qui est couramment dépeint en ligne, et que ces "autorisations" sont typiquement accompagnées de mises en garde importantes.

L'auteur explique que le terme NSFW peut englober diverses catégories, y compris la nudité artistique, les images suggestives, le contenu sexuellement explicite et le matériel violent. Différentes plateformes autorisent ou interdisent sélectivement ceux-ci. De plus, des divergences peuvent exister entre les politiques déclarées et le comportement réel des modèles d'IA. Le contenu autorisé au sein d'une plateforme hébergée peut différer de celui permis par les modèles open source installés localement.

L'analyse catégorise les plateformes d'images IA en trois types principaux basés sur leurs politiques NSFW : strictement filtrées (par exemple, Midjourney, Adobe Firefly, DALL·E), plateformes hébergées pour adultes (par exemple, Grok Imagine, Civitai) et options locales/open source (par exemple, Stable Diffusion). Les plateformes strictement filtrées conviennent à un usage en entreprise et aux campagnes générales, tandis que les solutions locales offrent plus de liberté mais placent plus de responsabilité sur le créateur.

CrePal propose également un guide pratique pour que les utilisateurs évaluent indépendamment les politiques des plateformes. Cela implique de localiser la documentation officielle, de rechercher des mots-clés spécifiques, de vérifier les restrictions régionales, de tester avec des prompts limites sûrs et d'examiner les clauses d'application. L'entreprise souligne que les plateformes peuvent modifier leurs politiques de manière inattendue, rendant les vérifications régulières conseillables pour les créateurs de contenu.