Meta försvarar annonsgranskning efter barnsexannonser på Instagram
Meta medgav att dess annonsgranskningsprocess "kanske inte upptäcker varje överträdelse", dagar efter en BBC-utredning avslöjade att Instagram visade annonser som främjade barnsexuellt material. Indiska myndigheter har utfärdat en uppmaning till företaget.
Meta Platforms har försvarat sin granskningsprocess för annonser som "robust", samtidigt som man medger att den "kanske inte upptäcker varje överträdelse". Uttalandet kom i ett blogginlägg den 7 juli, bara dagar efter att en utredning från BBC Eye avslöjade att betalda annonser på Instagram främjade material som utnyttjar barn sexuellt (CSAM) i Indien. Annonserna använde termer som "våldtäktsvideo" och "barnvideo" och länkade till Telegram-kanaler som sålde materialet för så lite som 99 indiska rupier.
Indiens ministerium för elektronik och informationsteknik (MeitY) har utfärdat en uppmaning till Meta att förklara hur annonserna passerade granskningen inom sju dagar, och har beordrat Instagram att inaktivera alla sådana annonser och innehåll.
Metas annonsgranskningsprocess förlitar sig främst på automatiserade verktyg som granskar bilder, video, text och målinriktningsinformation. Mänsklig granskning sker endast när mjukvaran är osäker. Om den automatiska granskningen är säker, publiceras annonsen utan mänsklig inblandning. Annonser kan också granskas igen efter att de har publicerats.
Enligt BBC:s undersökning möjliggjorde brister i processen spridningen av dessa annonser. Det automatiserade systemet förstår inte innehållets natur, och mänsklig granskning utlöses endast i osäkra fall. Vidare granskning sker först efter att annonsen har publicerats. Även i fall där det automatiska systemet misslyckades med att blockera annonserna, reagerade den mänskliga granskningen långsamt eller gav en felaktig bedömning. Metas egna annonsstandarder för sexuellt utnyttjande av barn är strängare än de allmänna gemenskapsnormerna, men trots detta godkändes dessa annonser.
Fallet väcker frågor kring Indiens IT Acts "safe harbour"-bestämmelser, som befriar mellanhänder från ansvar för tredjepartsinnehåll om de uppfyller kraven på "due diligence". Metas roll i att betalt sprida och rikta in sig på dessa annonser, tillsammans med felaktig mänsklig granskning, strider mot dessa villkor. Indiens IT Rules 2021 behandlar dessutom innehåll som sprids för direkt ekonomisk vinning som en separat kategori.