Medianama : Les modèles basés sur la publicité alimentent les contenus nocifs
Medianama soutient que les modèles économiques des réseaux sociaux, dépendants de la publicité, encouragent la diffusion de contenus nuisibles, y compris le CSAM, et critique les réponses réglementaires.
La publication indienne Medianama a publié une analyse critiquant les modèles économiques des plateformes de réseaux sociaux et leur rôle dans la perpétuation de contenus nocifs.
Une enquête de la BBC en Inde a révélé qu'Instagram vendait des publicités contenant du matériel d'abus sexuels sur enfants (CSAM). Alors qu'Instagram avait initialement déclaré que les publicités ne violaient pas les directives communautaires, la société a ensuite précisé sa politique de tolérance zéro. Medianama soutient que les actions gouvernementales, telles qu'une mise en demeure adressée à Meta Platforms, se concentrent sur la modération de contenu sans aborder les incitations économiques inhérentes aux modèles économiques basés sur la publicité.
Les plateformes de réseaux sociaux fonctionnent comme des intermédiaires sur des marchés multifacettes, offrant des services gratuits aux utilisateurs tout en générant des revenus grâce à la publicité. La publicité numérique représente environ 97 % des revenus de Meta et 79 % de ceux de Google. Ces modèles reposent sur une collecte de données exhaustive et une personnalisation pour maximiser l'engagement des utilisateurs.
La recherche indique que les contenus toxiques et faux peuvent être plus engageants, ce qui conduit à la conception d'algorithmes visant à maximiser l'attention des utilisateurs. Medianama note que les tentatives de modification des algorithmes pour un contenu plus diversifié ont souvent été annulées en raison d'une diminution de l'engagement, créant ainsi des incitations à amplifier les contenus nuisibles.
La publication critique également le cadre juridique indien, en particulier la disposition de "safe harbour" (port franc), qui protège les intermédiaires de la responsabilité pour le contenu de tiers. Medianama soutient que les publicités, en tant que transactions commerciales soumises à un examen, ne devraient pas être assimilées à du contenu généré par les utilisateurs sous les protections du "safe harbour". L'analyse suggère que se concentrer uniquement sur la modération de contenu est insuffisant pour résoudre les problèmes de sécurité numérique, et que les déséquilibres structurels sous-jacents doivent être abordés.