Delhi HC beordrar Meta att ta bort deepfake-bilder

Delhis högsta domstol har beordrat Meta Platforms Inc. att omedelbart ta bort AI-genererade, manipulerade och explicita bilder av en kvinna tillsammans med Indiens premiärminister Narendra Modi. Domstolen utfärdade även ett skyddsbeslut för polisbeskydd till kvinnan vars bilder påstås ha spridits.

Domstolen behandlade ett brådskande straffrättsligt klagomål där aktivister från Cockroach Janta Party (CJP) anklagades för att ha manipulerat och spridit bilderna. Enligt klagomålet visade bilderna en kvinna tillsammans med premiärministern och hade skapats med hjälp av AI. Kravet var att bilderna skulle tas bort, inte bara från sociala medier utan även från pornografiska webbplatser och andra plattformar där bilderna hade laddats upp illegalt.

Domaren Justice Girish Kathpalia underströk ärendets känslighet och noterade att det inte bara handlade om en enskild person utan involverade landets premiärminister. Han förklarade att om ärendet inte hanterades med tillräcklig lyhördhet, skulle han se till att det gjordes.

Domstolen krävde också att utredningsmyndigheterna skulle hantera de bilder och videor som kvinnan tillhandahöll, tillsammans med deras webblänkar, med strikt sekretess för att förhindra ytterligare spridning. Delhis polis har en vecka på sig att lämna en rapport om vidtagna åtgärder.