Rapport : Les lois indiennes traitent le contenu nuisible, mais pas les risques de conception des plateformes pour les enfants

Les lois indiennes actuelles traitent du contenu en ligne nuisible et de l'exploitation sexuelle des enfants, mais n'établissent pas de cadre complet pour atténuer les risques découlant de la conception des plateformes, y compris les systèmes de recommandation et les fonctionnalités axées sur l'engagement. C'est ce qu'indique un rapport de la NALSAR University of Law et de l'Indian Governance and Policy Project (IGAP).

Le rapport, intitulé « The Child Safety Imperative: Age-Appropriate Digital Governance Pathways for India », identifie des lacunes dans le cadre juridique indien. Il recommande la création d'un cadre dédié à la sécurité des enfants en ligne, axé sur les principes de sécurité dès la conception ('safety-by-design'), la responsabilité des plateformes et l'assurance de l'âge préservant la vie privée. Ces conclusions coïncident avec le fait que plusieurs États indiens envisagent des restrictions basées sur l'âge pour l'accès des enfants aux réseaux sociaux.

La législation indienne existante, telle que la section 67B de la loi sur les technologies de l'information (IT Act), criminalise la création et la distribution de matériel d'exploitation sexuelle des enfants (CSEAM), tandis que les règles de l'IT définissent les obligations de diligence raisonnable pour les intermédiaires. Bien que ces règles aient été mises à jour pour inclure le contenu généré synthétiquement comme les deepfakes, elles n'établissent pas de système pour réglementer la conception des plateformes. Les algorithmes de recommandation et les fonctionnalités axées sur l'engagement peuvent créer des risques que la modération du contenu seule ne peut pas résoudre.

La loi sur la protection des données personnelles numériques (DPDP Act) introduit des protections contre le traitement qui nuit au bien-être des enfants, mais ses dispositions spécifiques aux enfants ne devraient entrer en vigueur qu'en mai 2027. Le rapport soutient que l'Inde a besoin d'un cadre qui aborde les risques émanant des services numériques eux-mêmes, plutôt que de se fier uniquement aux interdictions de contenu illégal et de conduite individuelle. Bien que des lois plus récentes comme la Bharatiya Nyaya Sanhita traitent de certaines formes de cyberharcèlement et de diffamation, elles ne couvrent pas entièrement les dangers en ligne contemporains tels que la sextorsion.