La Commission électorale indienne utilise des algorithmes non divulgués, usage de l'IA incertain

La Commission électorale de l'Inde (ECI) emploie des logiciels algorithmiques pour gérer les listes électorales, mais les détails de leur utilisation et les applications potentielles de l'intelligence artificielle (IA) restent largement non divulgués. La Cour suprême a récemment suggéré que l'ECI pourrait exploiter l'IA pour traiter de nombreux affidavits dans un différend interne au sein du parti Trinamool Congress.

Selon Medianama, l'ECI utilise déjà des logiciels non audités qui impactent l'inclusion dans les listes électorales et les processus de notification. L'Internet Freedom Foundation (IFF) a identifié au moins trois systèmes algorithmiques impliqués dans la révision des listes électorales, dont aucun ne dispose de spécifications, de seuils ou de rapports d'audit publiquement accessibles.

La suggestion d'utiliser l'IA est venue du juge Joymalya Bagchi lors d'une audience devant la Cour suprême concernant le différend sur le symbole du Trinamool Congress. Cette observation orale n'était pas une directive formelle, bien que le conseil de l'ECI ait demandé une prolongation de six mois pour traiter le volume d'affidavits.

La situation est compliquée par les déclarations antérieures de l'ECI à l'ONU, affirmant ne pas utiliser d'IA, tout en continuant à déployer ces algorithmes non divulgués. L'Inde ne dispose actuellement pas de réglementations statutaires significatives obligeant les autorités publiques à divulguer les logiciels utilisés dans leurs processus décisionnels.

Médianama plaide pour une plus grande transparence, affirmant que les citoyens, les tribunaux et les partis politiques ont besoin d'informations sur les outils utilisés, leurs fournisseurs, leurs modèles et les éventuels résultats d'audit. Une telle divulgation est cruciale lorsque des logiciels influencent des décisions affectant les citoyens, y compris la gestion des listes électorales et la résolution de litiges.