Les géants de la tech nettoient le contenu "pouilleux" généré par l'IA

Les principales entreprises technologiques lancent un effort de nettoyage significatif pour lutter contre la montée en flèche du contenu "pouilleux" généré par l'IA sur leurs plateformes. Le problème est devenu si généralisé que l'éditeur de dictionnaire Merriam-Webster a nommé "slop" (pouilleux) son mot de l'année 2025.

Le problème s'est intensifié à mesure que les outils d'IA deviennent de plus en plus capables de produire des images, des sons et des vidéos réalistes, dont une grande partie constitue un remplissage de faible qualité. Le service de streaming musical Spotify a signalé avoir supprimé 75 millions de pistes générées par l'IA et d'autres contenus d'"artistes pouilleux" l'année dernière. LinkedIn a déclaré en juillet que le "pouilleux" de l'IA était une préoccupation majeure et a introduit un bouton pour que les utilisateurs signalent ce type de contenu. YouTube, propriété de Google, a également révélé avoir supprimé 130 000 chaînes de faible qualité en six mois.

Il est remarquable que de nombreuses entreprises qui mènent ce nettoyage soient les mêmes qui ont facilité le problème, souvent grâce à leurs propres outils d'IA. Meta, la société mère de Facebook et Instagram, s'est engagée à étiqueter le contenu généré par l'IA et a développé ses propres générateurs d'images. Cependant, après qu'un de ces outils a automatiquement intégré des données Instagram, il a rencontré l'opposition des utilisateurs et a dû être supprimé. Les entreprises ont du mal à trouver un équilibre entre l'engagement des utilisateurs et la demande de contenu de qualité.

Les experts et les chercheurs ont averti que le contenu généré par l'IA non géré pourrait étouffer la créativité humaine, éroder les valeurs culturelles et nuire au discours public. Bien que certaines plateformes comme YouTube aient pris des mesures agressives, comme le gel des revenus pour les chaînes d'IA, on ne sait toujours pas si ces mesures seront suffisantes à long terme. Certains utilisateurs ont également critiqué les outils de détection d'IA pour avoir potentiellement identifié à tort du contenu écrit par des humains comme étant généré par l'IA.

La situation nécessite une surveillance continue et des solutions innovantes. À mesure que les outils d'IA évoluent, le défi de la gestion du contenu qu'ils produisent évolue également. Les géants de la technologie doivent trouver un équilibre entre l'exploitation du potentiel de l'IA et l'atténuation des risques de contenu négatif afin de maintenir un écosystème numérique dynamique.