Meta défend sa modération publicitaire après la diffusion de contenus pédopornographiques
Meta a concédé que son processus de modération publicitaire "peut ne pas détecter chaque violation", quelques jours après qu'une enquête de la BBC a révélé qu'Instagram diffusait des publicités promouvant des contenus d'abus sexuels sur enfants. Les autorités indiennes ont émis une mise en demeure.
Meta Platforms a défendu son processus de modération publicitaire comme étant "robuste" tout en reconnaissant qu'il "peut ne pas détecter chaque violation" dans un article de blog du 7 juillet. Cette déclaration fait suite à une enquête de BBC Eye qui a révélé qu'Instagram diffusait des publicités payantes promouvant du matériel pédopornographique (CSAM) en Inde. Les publicités auraient utilisé des termes tels que "vidéo de viol" et "vidéo d'enfant" et renvoyaient vers des canaux Telegram vendant le matériel pour aussi peu que 99 roupies indiennes.
Le ministère de l'Électronique et des Technologies de l'Information (MeitY) en Inde a émis une mise en demeure de sept jours à Meta pour expliquer comment ces publicités ont passé la validation et a ordonné à Instagram de désactiver toutes ces publicités et contenus.
Le processus de modération publicitaire de Meta repose principalement sur des outils automatisés qui analysent les images, les vidéos, les textes et les informations de ciblage. La révision humaine n'est déclenchée que lorsque le logiciel est incertain. Si la révision automatique est concluante, la publicité est publiée sans supervision humaine. Les publicités peuvent également faire l'objet d'une révision après leur mise en ligne.
L'enquête de la BBC a mis en évidence des lacunes dans le processus qui ont permis à ces publicités d'être diffusées. Le système automatisé comparerait les publicités aux politiques plutôt que de comprendre le contenu, et la révision humaine ne serait déclenchée que dans des cas incertains. La révision ultérieure n'intervient qu'après la mise en ligne de la publicité. Même lorsque les systèmes automatisés ont signalé des problèmes, la révision humaine aurait été lente ou aurait fourni des évaluations incorrectes. Les propres normes publicitaires de Meta concernant l'exploitation sexuelle des enfants sont plus strictes que les normes communautaires générales, et pourtant ces publicités ont été approuvées.
Cette affaire soulève des questions concernant les dispositions relatives au régime de "porto franc" (safe harbor) de l'IT Act indien, qui exempte les intermédiaires de responsabilité pour le contenu de tiers s'ils font preuve de diligence raisonnable. Le rôle de Meta dans la diffusion payante et le ciblage de ces publicités, associé à une révision humaine défaillante, complique son respect de ces dispositions. Les IT Rules 2021 de l'Inde traitent spécifiquement le contenu transmis pour un gain financier direct comme une catégorie distincte, ce qui intensifie encore le contrôle sur les actions de Meta.