Delhi High Court weist Meta an, Deepfake-Bilder zu entfernen

Das Delhi High Court hat Meta Platforms Inc. angewiesen, sofort KI-generierte, manipulierte und explizite Deepfake-Bilder zu entfernen, die angeblich eine Frau zusammen mit dem indischen Premierminister Narendra Modi zeigen. Das Gericht ordnete zudem Polizeischutz für die betroffene Frau an.

Die Gerichtsentscheidung folgte auf eine dringende Strafanzeige, in der Aktivisten der Cockroach Janta Party (CJP) beschuldigt wurden, Bilder manipuliert und KI-generierte Inhalte erstellt zu haben. Die Klägerin forderte die Entfernung der Bilder von sozialen Medien sowie von pornografischen Webseiten und anderen Plattformen, auf denen die Aufnahmen illegal hochgeladen wurden.

Richter Justice Girish Kathpalia betonte die Brisanz des Falls, der auch den Premierminister des Landes betrifft. Er erklärte, dass er sicherstellen werde, dass die Angelegenheit mit der gebotenen Sensibilität behandelt wird.

Das Gericht wies die zuständige Ermittlungsbehörde an, die zur Verfügung gestellten Bilder und Videos sowie deren Weblinks streng vertraulich zu behandeln, um eine weitere Verbreitung zu verhindern. Die Polizei von Delhi muss innerhalb einer Woche einen Bericht über die ergriffenen Maßnahmen vorlegen.