Les décisions d'emploi basées sur l'IA manquent de transparence, selon des experts

L'intégration de l'intelligence artificielle (IA) dans les décisions d'emploi, de l'embauche aux licenciements, crée une 'boîte noire' qui obscurcit le raisonnement derrière les résultats pour les travailleurs. Ce manque de transparence rend difficile l'identification et la résolution des discriminations potentielles, soulevant des questions urgentes sur la responsabilité.

Un récent procès contre Meta, alléguant que l'IA a joué un rôle significatif dans la sélection des employés pour des licenciements, met en évidence ces préoccupations. Les plaignants affirment que l'IA s'est appuyée sur des données qui ont désavantagé injustement les employés en congé médical ou familial protégé. Cette affaire souligne le potentiel des systèmes d'IA à perpétuer les biais si ceux-ci ne sont pas soigneusement conçus et supervisés.

L'État de Washington, un centre de développement de l'IA, explore des moyens de résoudre ces problèmes. Un groupe de travail sur l'IA a recommandé des principes centrés sur les travailleurs pour l'utilisation de l'IA dans l'emploi. Bien qu'un projet de loi spécifique n'ait pas été adopté, l'État a l'opportunité de réunir les parties prenantes pour élaborer des lignes directrices pour des applications d'IA transparentes et équitables sur le lieu de travail.

Les experts soulignent que de nombreux outils d'IA font l'objet de tests insuffisants avant leur déploiement, et que les entreprises ne comprennent peut-être pas entièrement leur fonctionnement ni leur éventuel biais. L'hypothèse selon laquelle l'IA commercialement disponible est intrinsèquement juste est souvent erronée, faisant écho à une tendance plus large de l'industrie technologique à privilégier la vitesse au détriment d'une vérification approfondie.

À l'avenir, les défenseurs suggèrent des exigences telles que la notification aux employés lorsque l'IA influence les décisions, la fourniture de voies de recours et l'obligation d'audits pour garantir que les actions de la main-d'œuvre pilotées par l'IA n'affectent pas de manière disproportionnée les groupes protégés. Bien que la réglementation puisse susciter des inquiétudes quant au ralentissement de l'innovation, il est jugé essentiel de garantir l'équité et la transparence dans les pratiques d'emploi basées sur l'IA.