Meta inför AI-verktyg för att upptäcka annonser med barnmissbruk

Meta har förstärkt sina ansträngningar för att motverka spridningen av material relaterat till sexuella övergrepp mot barn (CSAM) på sina plattformar genom att implementera nya verktyg baserade på artificiell intelligens (AI). Dessa verktyg är utformade för att identifiera annonser som på ett försåtligt sätt leder användare till skadligt material som finns på andra plattformar.

Företaget uppgav att mellan januari och juni 2026 tog man bort 5,3 miljoner objekt med CSAM-innehåll via Facebook och Instagram i Indien. Mer än 98 % av dessa upptäcktes innan användarna hann anmäla dem. Globalt tog Meta bort 33,2 miljoner liknande innehållsobjekt under samma period, där Indiens andel utgjorde cirka 16 %.

De nya åtgärderna inkluderar användning av stora språkmodeller (LLM) för att upptäcka "signposting" – potentiellt oskyldigt annonsinnehåll som misstänks leda till olaglig verksamhet. Dessutom granskar Meta nu annonsernas destinationer, genomför AI-baserade genomsökningar av befintliga annonser, använder en AI-agent för att testa företagets egna försvar och förbättrar system för att identifiera återfallsförbrytare.

Detta initiativ kommer i kölvattnet av flera utredningar och uppmärksamhet från indiska myndigheter gällande skadligt innehåll på plattformen. En utredning från BBC i juli avslöjade annonser på Instagram som marknadsförde CSAM-material. Indiska myndigheter, inklusive ministeriet för elektronik och informationsteknik (MeitY) och kommissionen för skydd av barns rättigheter (NCPCR), har krävt åtgärder och förklaringar från Meta.

Meta har meddelat att de framöver kommer att rapportera barnskyddsrelaterade fall direkt till den nationella portalen för rapportering av cyberbrott, som drivs av Indian Cybercrime Coordination Centre (I4C). Detta syftar till att förbättra samarbetet med lokala myndigheter.