Meta vidtar åtgärder mot Indiens regerings oro kring CSAM och deepfakes

Sociala mediejätten Meta har rapporterat börjat vidta åtgärder för att bemöta den indiska centralregeringens oro gällande barnpornografiskt material (CSAM) och deepfakes på dess plattformar, efter flera diskussioner med myndighetspersoner.

Enligt rapporteringen har Indiens regering betonat för Meta att CSAM bryter mot indisk lagstiftning. Regeringen har varnat att företaget kan förlora sitt rättsliga skydd om det inte uppfyller sina lagliga skyldigheter. Metas globala team har presenterat hur deras algoritmer fungerar och vilka åtgärder de planerar att införa som svar på regeringens farhågor. Vissa problem kräver, enligt företaget, "bedömningar och justeringar".

Centralregeringen har strävat efter att skilja mellan reglering och censur. Källor inom regeringen uppger att syftet är att säkerställa att plattformarna följer indisk lag och begränsar skador från sociala medier, snarare än att begränsa legitim rapportering. En olöst fråga är dock fortsatt förekomst av skadligt AI-genererat material, särskilt deepfake-videor utan korrekt märkning.

Regeringen har tidigare uppmanat Meta att öka den mänskliga översynen av innehållsmoderering, särskilt för material på indiska språk och sådant som speglar lokal kulturell och social kontext. Dessutom granskar den indiska regeringen separat WhatsApps föreslagna funktion för användarnamn, vilken kan få bredare implikationer för andra meddelandetjänster.