Microsoft s'engage aux États-Unis à ne pas entraîner l'IA avec des données d'élèves

Microsoft a conclu un accord juridiquement contraignant avec l'American Federation of Teachers (AFT), le deuxième plus grand syndicat d'enseignants aux États-Unis. Selon cet accord, l'entreprise technologique s'engage à ne pas utiliser les données des élèves ou des enseignants pour entraîner ses systèmes d'intelligence artificielle. Les seules exceptions concernent les données contribuant directement à la sécurité des étudiants.

Cet accord, qui prévoit des audits par des tiers, répond aux préoccupations concernant la confidentialité des données dans le secteur de l'éducation. L'AFT a indiqué que ces conditions ont été négociées en l'absence de législation fédérale imposant de telles protections. Des discussions similaires seraient en cours avec d'autres entreprises d'IA telles qu'OpenAI et Anthropic.

En Inde, la situation est différente. Le pays intègre l'IA dans son programme scolaire dès la troisième année. Cependant, la loi sur la protection des données personnelles des enfants (DPDP Act, 2023), qui contient des dispositions spécifiques pour les données des enfants, n'est pas encore entrée en vigueur et son application est prévue pour mai 2027.

D'ici l'entrée en vigueur du DPDP Act, l'utilisation des données des écoliers indiens pour l'entraînement de l'IA par les fournisseurs de technologies éducatives dépendra des accords contractuels avec les écoles ou les départements de l'éducation. Ces contrats ne sont pas rendus publics, et il n'existe pas d'équivalent de l'AFT en Inde négociant activement de telles conditions au nom des élèves.

La nouvelle norme de Microsoft, "Privacy and Safety Standard for Schools", s'applique à ses produits éducatifs. Elle limite l'utilisation des données, exige une supervision humaine pour les décisions importantes, assure la transparence pour les familles et confirme la propriété des écoles sur le contenu créé. L'accord interdit également la vente de données, leur utilisation à des fins publicitaires ou de développement de produits, ainsi que le suivi des élèves.