L'Inde envisage une réglementation sur la prise de décision automatisée
Le système judiciaire indien examine de nouvelles règles pour la prise de décision automatisée dans le cadre d'une affaire judiciaire contestataire sur le logiciel de la commission électorale. La situation souligne un besoin croissant de procédures plus claires.
Le système juridique indien examine actuellement un cas qui pourrait façonner l'approche du pays en matière de réglementation de la prise de décision automatisée. Deux frères de Hyderabad ont contesté en justice l'utilisation d'un logiciel par la Commission électorale indienne (Election Commission of India), arguant qu'il les avait retirés de la liste électorale sans procédure appropriée.
L'affaire survient à un moment où de nombreux services publics et privés en Inde, y compris les opérateurs de télécommunications et les prêteurs, s'appuient de plus en plus sur des systèmes automatisés pour la prise de décision. Contrairement à des régions telles que la Californie, le Colorado et l'Union européenne, la nouvelle loi indienne sur la protection des données personnelles numériques (Digital Personal Data Protection Act, 2023) ne contient pas de dispositions explicites sur la prise de décision automatisée. Cela laisse les utilisateurs dans l'incertitude quant aux fondements des décisions et aux voies de recours.
Dans le procès, les frères demandent que les suppressions de la liste électorale basées uniquement sur des indicateurs générés par logiciel ne puissent avoir lieu sans une vérification officielle et une décision motivée après une audience. Ils demandent également à la Commission électorale de divulguer les principes de fonctionnement du système, ses algorithmes et ses rapports d'audit. L'objectif est de garantir que les droits fondamentaux, comme le droit de vote, ne soient pas refusés sans un processus transparent et équitable.
La Commission électorale a déclaré qu'elle enquêterait et formerait un comité pour examiner sa plateforme ECINET par rapport à la législation. Cependant, comme observé dans d'autres juridictions, la simple validation par un humain d'une décision d'un système automatisé peut ne pas garantir l'équité si le temps consacré à l'examen est minime ou si le processus manque de transparence.
L'Inde devrait examiner des exemples internationaux et développer sa propre législation pour la prise de décision automatisée. Cette affaire judiciaire pourrait fournir une première ébauche des réglementations nécessaires, garantissant le droit des citoyens de comprendre et de contester les décisions prises par des algorithmes.