AI-reglering efterfrågas efter deepfake-av bilder på kändisar

Indiska skådespelare har krävt omedelbara åtgärder för att reglera spridningen av AI-genererade deepfakes, efter att en sexuellt explicit falsk video som involverade skådespelarna Janhvi Kapoor och Jr NTR cirkulerat online. Kändisar har betonat behovet av att regeringar inför striktare lagstiftning för att bekämpa manipulation av digitalt innehåll.

Janhvi Kapoor beskrev den obehöriga användningen av sådana bilder som djupt kränkande och nära sexuella övergrepp. Hon noterade att många kvinnor i hennes bransch och allmänt utsätts för detta. Jr NTR anslöt sig till kraven och uppmanade Indiens regering och delstatsregeringar att införa strikta regleringar mot missbruk av AI.

Representanter för filmindustrin har uttryckt sin avsikt att diskutera frågan med politiska beslutsfattare, inklusive Andhra Pradeshs vice chefsminister Pawan Kalyan. Målet är att hitta metoder för att förhindra spridningen av skadligt material och ställa de ansvariga till svars.

Incidenten har också lett till diskussioner om tidigare liknande händelser. År 2023 utfärdade Indiens ministerium för elektronik och informationsteknik riktlinjer till sociala medieplattformar för att snabbt ta bort deepfake-innehåll. Enligt de senaste regeländringarna har plattformar tre timmar på sig att ta bort innehåll, men i vissa fall kvarstår materialet tillgängligt på delvis geo-blockerade webbplatser.

Vissa förslag har också inkluderat åtgärder som att koppla Aadhaar-identifikationskort till sociala medieprofiler för att öka ansvarsskyldigheten och motverka missbruk.