Indien begär tekniska ändringar från Meta för att bekämpa deepfakes och barnmissbruksmaterial

Indiens centrala regering har begärt att Meta ska implementera tekniska ändringar på sina plattformar för att motverka deepfake-material och material som utnyttjar barn sexuellt (CSAM). Diskussionerna mellan myndigheter och Metas globala ledning har gått in i en teknisk fas, där företaget presenterade åtgärder som de planerar att införa för att adressera regeringens farhågor.

Regeringen har framfört krav på specifika åtgärder och bett Meta att rapportera om resultaten. Myndigheterna kommer att regelbundet följa företagets framsteg, och ett nytt möte är planerat till nästa vecka. En central fråga har varit återkommande och fortsatt spridning av skadligt AI-genererat innehåll, även efter att det har flaggats. Regeringen har också ifrågasatt varför omärkta AI-genererade videor förblir synliga på Metas plattformar.

Indiska myndigheter har också krävt att Meta ska stärka den mänskliga övervakningen av innehållsmoderering, med särskilt fokus på indiska språk samt lokal kulturell och social kontext. Meta har uppgett att de har lösningar för att hantera deepfakes, CSAM, bot-konton och syntetiskt innehåll, och har förklarat hur dessa åtgärder kan implementeras på deras plattformar.

Samtalen följde efter flera möten där Indiens IT-minister och tjänstemän förhörde Meta om dess efterlevnad av indiska lagar, innehållsalgoritmer och plattformssäkerhetsåtgärder. Regeringen inledde kontakten med Meta efter att Facebook tillfälligt begränsat en video publicerad av Indiens premiärminister Narendra Modi. Ärendet utreds även av en parlamentarisk kommitté samt nationella kommissioner för skydd av barn och mänskliga rättigheter.