Accord sur la sécurité des enfants sur les réseaux sociaux ; les protections pour l'IA pourraient prendre du retard

Un accord important conclu par les États américains cet été vise à améliorer la sécurité des enfants sur les plateformes de réseaux sociaux, offrant des leçons cruciales pour les défis émergents posés par l'intelligence artificielle (IA). Alors que les mesures visant à sécuriser les réseaux sociaux sont encore en cours d'évolution, l'approche adoptée offre des aperçus sur la manière d'aborder les risques de l'IA pour les jeunes utilisateurs, une technologie dont les dangers potentiels commencent à peine à être compris.

Meta a accepté des changements substantiels et des mesures de sécurité améliorées dans le cadre d'un règlement de 18 milliards de dollars, reconnaissant ainsi les dangers connus des réseaux sociaux. Cependant, les défenseurs soulignent que les risques de l'IA pour les enfants deviennent apparents et nécessitent une action plus rapide que celle initialement entreprise pour les réseaux sociaux.

Les entreprises d'IA commencent à introduire des fonctionnalités de sécurité précédemment pionnières par les entreprises de réseaux sociaux, y compris la vérification de l'âge et des expériences restreintes pour les mineurs. Néanmoins, les parents et les experts soulignent que la principale leçon tirée des efforts de sécurité des réseaux sociaux est la nécessité de mesures proactives pour atténuer les méfaits potentiels de l'IA.

Les préoccupations concernant les réseaux sociaux se sont largement concentrées sur le temps d'écran excessif, son impact sur la santé mentale, la confidentialité des données et les risques tels que le cyberharcèlement et les prédateurs en ligne. L'IA présente des problèmes potentiellement plus omniprésents, car les enfants peuvent interagir avec des chatbots IA, les utiliser pour obtenir de l'aide scolaire et même développer des attachements malsains avec eux. Les experts s'interrogent sur la manière dont l'accès à l'IA affecte le développement cognitif des enfants.

Bien que l'IA offre des avantages indéniables, tels que le tutorat et le soutien éducatif, la limitation de son utilisation présente des défis uniques. Contrairement aux réseaux sociaux, où les limites de temps sont plus simples à mettre en œuvre, l'application de règles similaires à l'IA est complexe. Selon le Pew Research Center, 64 % des adolescents américains ont utilisé des chatbots IA, souvent pour la recherche et les devoirs scolaires, mais aussi pour le divertissement et le soutien émotionnel. Le psychologue social Jonathan Haidt considère l'IA comme une menace plus grande pour les enfants que les réseaux sociaux, mettant en garde contre de potentiels attachements malsains et le « délestage cognitif ».