L'Inde demande des changements techniques à Meta pour lutter contre les deepfakes et le matériel d'abus sur enfants

Le gouvernement central indien a demandé à Meta de mettre en œuvre des changements techniques sur ses plateformes pour lutter contre le matériel de deepfake et le matériel d'abus sexuels sur enfants (CSAM). Les discussions entre les responsables et la direction mondiale de Meta sont entrées dans une phase technique, au cours de laquelle l'entreprise a présenté les mesures qu'elle prévoit de déployer pour répondre aux préoccupations du gouvernement.

Le gouvernement a exigé la mise en œuvre de mesures spécifiques et a demandé à Meta de rendre compte des résultats. Les responsables prévoient d'examiner régulièrement les progrès de l'entreprise, un autre réunion étant prévue la semaine prochaine. Une préoccupation majeure a été la réapparition et la diffusion continue de contenus générés par l'IA, même après qu'ils aient été signalés. Le gouvernement s'est également interrogé sur la raison pour laquelle les vidéos générées par l'IA non étiquetées restent visibles sur les plateformes de Meta.

Les autorités indiennes ont également demandé à Meta de renforcer la supervision humaine dans la modération de contenu, en mettant l'accent sur les langues indiennes ainsi que sur les contextes culturels et sociaux locaux. Meta a déclaré disposer de solutions pour traiter les deepfakes, le CSAM, les comptes de bots et le contenu synthétique, et a expliqué comment ces mesures peuvent être déployées sur ses plateformes.

Ces discussions ont suivi plusieurs réunions au cours desquelles le ministre indien des technologies de l'information et des responsables ont interrogé Meta sur sa conformité avec les lois indiennes, ses algorithmes de recommandation de contenu et ses mesures de sécurité des plateformes. Le gouvernement a engagé le dialogue avec Meta après que Facebook eut temporairement restreint une vidéo publiée par le Premier ministre indien Narendra Modi. L'affaire fait également l'objet d'une enquête de la part d'un comité parlementaire et de commissions nationales pour la protection de l'enfance et des droits de l'homme.