La Commission de protection des droits de l'enfant convoque Google au sujet des applications d'IA

La Commission Nationale Indienne pour la Protection des Droits de l'Enfant (NCPCR) a convoqué Google à une réunion prévue pour la fin du mois. L'ordre du jour porte sur les applications d'intelligence artificielle disponibles sur le Play Store qui créent des vidéos intimes à partir de photographies de personnes réelles, sans leur consentement.

Certaines de ces applications portaient des classifications d'âge indiquant qu'elles convenaient à des enfants dès l'âge de trois ans. Sanjeev Sharma, secrétaire exécutif de la NCPCR, a annoncé que la commission publiera des directives sur la sécurité des enfants pour les plateformes de médias sociaux, de jeux et d'IA d'ici décembre.

Ces applications d'IA, surnommées applications "kiss and hug", permettent aux utilisateurs de télécharger des photos qui sont ensuite traitées par l'IA pour générer des vidéos de baisers ou d'étreintes. Des enquêtes début 2026 avaient révélé des dizaines d'applications similaires sur le Google Play Store en Inde, dont certaines comptaient plus d'un million de téléchargements.

Les vidéos générées manquaient d'indication claire de leur origine IA, et les politiques de confidentialité de certaines applications mentionnaient le partage potentiel des données des utilisateurs, y compris les photos et identifiants d'appareils, avec des tiers. Bien que Google ait supprimé certaines applications, d'autres, comme "AI Kiss & Hug Video Maker", restaient disponibles en octobre 2026 avec des milliers de téléchargements et une classification d'âge de 3+.

Les nouvelles règles IT indiennes exigent l'étiquetage du contenu synthétiquement généré, mais leur application aux applications générant uniquement du contenu reste floue. La NCPCR privilégie les directives à la législation pour une mise en œuvre plus rapide et développe également un outil d'IA pour détecter les contenus pédopornographiques.