Indien skyndar på AI-verktyg för att upptäcka material med sexuella övergrepp mot barn

Indiens minister för kvinnor och barns utveckling, Annapurna Devi, har uppmanat National Commission for Protection of Child Rights (NCPCR) att påskynda två initiativ för barnsäkerhet. Dessa inkluderar ett AI-baserat verktyg för att upptäcka material med sexuella övergrepp mot barn (CSEAM) online, samt riktlinjer för sociala medier för teknikföretag. Ministern identifierade båda som omedelbara prioriteringar vid en genomgång den 13 oktober.

Syftet med AI-verktyget är att proaktivt identifiera CSEAM-material online, snarare än att förlita sig på klagomål eller anmälningar. NCPCR utvecklar verktyget i samarbete med ministeriet för elektronik och informationsteknik (MeitY). Detaljer om verktygets lansering, tekniska specifikationer, vilka plattformar eller innehållstyper som täcks, samt rutiner för anmälan, eskalering eller borttagning av flaggat material har inte specificerats.

Den andra prioriterade åtgärden är utvecklingen av riktlinjer för sociala medier riktade till teknikföretag. NCPCR:s ordförande V. Prem Chand informerade ministern om riktlinjerna, men deras innehåll, juridiska status eller förväntade utgivningsdatum har inte offentliggjorts. Ministern instruerade att båda initiativen ska implementeras skyndsamt.

Ministern betonade också att inkomna klagomål till NCPCR ska hanteras "känsligt, ansvarsfullt och skyndsamt", med stöd till de som lämnar klagomål. Ett administrativt direktiv gavs också om att avsluta alla väntande ärenden senast den 31 december 2026.

Uppmaningen kommer efter månader av granskning av plattformar gällande einsäkerhet. NCPCR har tidigare utrett Meta och den indiska regeringen har beordrat Instagram att stänga ner annonser kopplade till CSEAM. Myndigheter har också krävt att stora sociala medieplattformar inför åtgärder som föräldrakonsensus för minderåriga och identitetsverifiering för alla användare.