Rapport: Indiens lagar hanterar skadligt innehåll men inte skadlig design för barn

Indiens lagar adresserar skadligt onlineinnehåll och sexuellt utnyttjande av barn, men etablerar inte en heltäckande ram för att mildra risker som härrör från plattformsdesign, inklusive rekommendationssystem och engagemangsdrivna funktioner. Detta enligt en rapport från NALSAR University of Law och Indian Governance and Policy Project (IGAP).

Rapporten, 'The Child Safety Imperative: Age-Appropriate Digital Governance Pathways for India', undersöker luckor i Indiens juridiska ramverk. Den rekommenderar ett dedikerat ramverk för barnsäkerhet online, med fokus på 'safety-by-design'-krav, plattformsansvar och integritetsbevarande åldersverifiering. Dessa slutsatser kommer samtidigt som flera indiska delstater överväger åldersbaserade begränsningar för barns tillgång till sociala medier.

Indiens befintliga lagar, såsom avsnitt 67B i IT-lagen, kriminaliserar skapande, publicering och distribution av material som utnyttjar barn sexuellt (CSEAM). IT-reglerna fastställer också skyldigheter för mellanhänder. Även om dessa regler har utökats till att omfatta syntetiskt genererat innehåll som deepfakes, etablerar de inte ett system för att reglera plattformsdesign. Rekommendationsalgoritmer och engagemangsdrivna funktioner kan skapa risker som innehållsmoderering ensam inte kan hantera.

Den nya lagen om skydd av personuppgifter (DPDP Act) introducerar skydd mot behandling som skadar barns välbefinnande, men dess barnspecifika bestämmelser träder i kraft först i maj 2027. Rapporten argumenterar för att Indien behöver ett ramverk som adresserar risker som härrör från själva digitala tjänster, snarare än att enbart förlita sig på förbud mot olagligt innehåll och individuellt beteende. Samtidigt som nya lagar som Bharatiya Nyaya Sanhita tar itu med vissa former av nätmobbning och förtal, täcker de inte helt moderna onlinefaror som sextortion.