Modération par IA limitée par le contexte, pas une solution complète

L'intelligence artificielle (IA) peut soutenir les efforts de modération de contenu et de vérification de l'âge sur les plateformes de médias sociaux, mais ne constitue pas une solution complète à ces défis complexes, a révélé une table ronde organisée par MediaNama. Les intervenants ont souligné que si les outils d'IA sont de plus en plus sophistiqués, ils ont fondamentalement du mal à comprendre les nuances de la communication humaine.

La discussion a montré que les plateformes s'appuient de plus en plus sur des classificateurs d'IA et des systèmes de recommandation. Cependant, les participants ont soutenu que ces systèmes automatisés peinent souvent à saisir le contexte ou l'intention derrière le contenu. Un exemple donné a illustré comment une seule phrase peut avoir de multiples significations en fonction de la conversation environnante, rendant la modération purement automatisée insuffisante.

La modération de contenu opère actuellement sur deux niveaux : les systèmes automatisés et l'examen humain. De nombreuses plateformes emploient également des stratégies pour réduire la portée du contenu, souvent appelées « shadow banning », plutôt que de le supprimer complètement. Si l'IA excelle dans l'identification de modèles et la classification rapide de grandes quantités de données, les cas complexes nécessitent toujours l'intervention d'examinateurs humains.

Les intervenants ont également souligné les limites de l'IA dans la gestion de l'asymétrie linguistique et des nuances, en particulier dans les environnements multilingues comme l'Inde. Bien que l'IA puisse identifier certains types de contenu nuisible, sa nature probabiliste signifie que les résultats ne sont pas toujours déterministes, créant des tensions avec les régulateurs qui attendent souvent une certitude absolue.