Indien fordert technische Änderungen von Meta zur Bekämpfung von Deepfakes und Material zum Kindesmissbrauch

Die indische Zentralregierung hat Meta aufgefordert, technische Änderungen an seinen Plattformen vorzunehmen, um Deepfake-Material und sexuelles Kindesmissbrauchsmaterial (CSAM) zu bekämpfen. Die Gespräche zwischen Beamten und der globalen Führung von Meta sind in eine technische Phase übergegangen, in der das Unternehmen Maßnahmen vorstellte, die es zur Bewältigung der Bedenken der Regierung einsetzen will.

Die Regierung hat die Implementierung spezifischer Maßnahmen gefordert und Meta gebeten, über die Ergebnisse zu berichten. Beamte planen, die Fortschritte des Unternehmens regelmäßig zu überprüfen, und ein weiteres Treffen ist für nächste Woche angesetzt. Ein zentrales Anliegen war das Wiederauftreten und die anhaltende Verbreitung von schädlichen KI-generierten Inhalten, selbst nachdem diese markiert wurden. Die Regierung hat auch hinterfragt, warum nicht gekennzeichnete KI-generierte Videos auf den Meta-Plattformen sichtbar bleiben.

Indische Behörden haben Meta außerdem aufgefordert, die menschliche Überwachung bei der Inhaltsmoderation zu verstärken, mit besonderem Schwerpunkt auf indischen Sprachen sowie lokalen kulturellen und sozialen Kontexten. Meta hat erklärt, dass es über Lösungen zur Bekämpfung von Deepfakes, CSAM, Bot-Konten und synthetischen Inhalten verfügt und erläutert, wie diese Maßnahmen auf seinen Plattformen eingesetzt werden können.

Die Diskussionen folgten auf mehrere Treffen, bei denen Indiens IT-Minister und Beamte Meta zu seiner Einhaltung indischer Gesetze, Insempfehlung-Algorithmen und Plattformschutzmaßnahmen befragten. Die Regierung nahm Kontakt mit Meta auf, nachdem Facebook ein Video des indischen Premierministers Narendra Modi vorübergehend eingeschränkt hatte. Die Angelegenheit wird auch von einem parlamentarischen Ausschuss sowie nationalen Kommissionen für Kinderschutz und Menschenrechte untersucht.