L'Inde accélère un outil d'IA pour détecter les contenus d'abus sexuels sur enfants
L'organisme indien de protection des droits de l'enfant (NCPCR) doit accélérer le développement d'un outil d'IA destiné à détecter de manière proactive les contenus d'abus sexuels sur enfants en ligne.
La ministre indienne du Développement des femmes et de l'enfance, Annapurna Devi, a chargé la Commission nationale pour la protection des droits de l'enfant (NCPCR) d'accélérer deux initiatives de sécurité pour les enfants. Celles-ci comprennent un outil basé sur l'IA pour détecter les contenus d'exploitation et d'abus sexuels sur enfants (CSEAM) en ligne, ainsi que des directives sur les réseaux sociaux pour les entreprises technologiques. La ministre a identifié ces deux points comme des priorités immédiates lors d'un examen le 13 octobre.
L'outil de détection par IA vise à identifier de manière proactive les CSEAM en ligne, plutôt que de se fier aux plaintes. La NCPCR développe cet outil en collaboration avec le ministère de l'Électronique et des Technologies de l'information (MeitY). Des détails spécifiques concernant la date de lancement de l'outil, ses spécifications techniques, les plateformes couvertes ou les procédures de signalement et de suppression n'ont pas été divulgués.
En outre, la NCPCR élabore des directives sur les réseaux sociaux destinées aux entreprises technologiques. Le président de la commission, V. Prem Chand, a informé la ministre de cette initiative, mais le contenu, le statut juridique ou la date d'émission prévue de ces directives restent non spécifiés. La ministre a demandé la mise en œuvre rapide des deux initiatives.
La ministre a également souligné que les plaintes reçues par la NCPCR devaient être traitées "avec sensibilité, responsabilité et rapidité", avec un soutien complet aux plaignants. Une directive administrative a également été émise pour clôturer tous les dossiers en attente d'ici le 31 décembre 2026.
Cette poussée intervient après des mois d'examen des plateformes concernant la sécurité des enfants. La NCPCR a précédemment enquêté sur Meta et les autorités indiennes ont ordonné à Instagram de fermer les publicités liées aux CSEAM. Les responsables ont également demandé aux grandes plateformes de réseaux sociaux de mettre en œuvre des mesures telles que le consentement parental pour les mineurs et la vérification d'identité des utilisateurs.