Barnrättskommission kallar Google till möte om AI-appar

Indiens nationella kommission för skydd av barns rättigheter (NCPCR) har kallat Google till ett möte senare denna månad. Anledningen är AI-appar i Play Store som skapar intima videor med hjälp av fotografier av riktiga personer utan deras medgivande.

Flera av apparna hade åldersgränser som indikerade att de var lämpliga för barn så unga som tre år. Sanjeev Sharma, NCPCR:s medlemssekreterare, meddelade att kommissionen kommer att lansera riktlinjer för barnsäkerhet för sociala medier, spel och AI-plattformar senast i december.

Dessa AI-appar, kända som "AI kiss and hug"-appar, låter användare ladda upp foton som sedan AI:n bearbetar till videor av kramar eller kyssar. Vissa appar har även erbjudit möjligheten att animera foton av avlidna personer. Undersökningar tidigt under 2026 avslöjade dussintals sådana appar i Google Play Store i Indien, varav många hade över en miljon nedladdningar.

Apparna saknar märkning som indikerar att videorna är AI-genererade, och åtminstone en app uppgav i sin säkerhetssektion att användarnas foton och data kan delas med tredje parter. Trots att Google har tagit bort vissa appar, var andra, som "AI Kiss & Hug Video Maker", fortfarande tillgängliga med över 5 000 nedladdningar och en åldersgräns på 3+ i oktober 2026.

Indiens nya IT-regler kräver märkning av syntetiskt genererat innehåll, men det är oklart hur de tillämpas på appar som enbart genererar innehåll. NCPCR strävar efter att snabba på lanseringen av riktlinjerna för barnsäkerhet istället för lagstiftning på grund av tidsaspekter. Kommissionen utvecklar också ett AI-verktyg för att upptäcka material som rör sexuella övergrepp mot barn.