Microsoft établit de nouvelles règles de confidentialité pour l'IA dans les écoles

Microsoft a mis en place de nouveaux principes de confidentialité et de sécurité pour l'utilisation de l'intelligence artificielle (IA) dans les établissements scolaires, en réponse aux préoccupations croissantes concernant l'utilisation des données des élèves. L'accord, conclu avec l'American Federation of Teachers (AFT), le deuxième syndicat d'enseignants des États-Unis, et sa branche new-yorkaise, la United Federation of Teachers (UFT), engage Microsoft sur dix principes que les districts scolaires peuvent faire appliquer légalement.

Les principales dispositions du pacte incluent l'engagement de Microsoft à ne pas entraîner ses modèles d'IA sur les données des élèves ou des enseignants. L'entreprise s'engage également à limiter la portée des données qu'elle collecte et à fournir des explications claires et compréhensibles aux familles sur le fonctionnement de ses outils d'IA.

L'annonce intervient dans un contexte de surveillance accrue de l'IA dans les écoles. Une semaine auparavant seulement, deux systèmes scolaires importants avaient annoncé l'interdiction des outils d'IA accessibles aux élèves, soulignant un débat plus large au sein du secteur de l'éducation.

Microsoft vise à répondre à ces préoccupations en offrant aux écoles un cadre plus sûr pour l'adoption des technologies d'IA. La nature contractuelle de l'accord donne aux districts les moyens de garantir le respect des principes énoncés.