Une juge indienne remet en question la divulgation obligatoire de l'IA pour les avocats

La juge Prathiba M Singh de la Haute Cour de Delhi a exprimé des réserves quant à une proposition de la Cour suprême de l'Inde qui obligerait les avocats à divulguer leur utilisation de l'intelligence artificielle (IA) dans les documents judiciaires. Selon un rapport de Bar & Bench, la juge Singh estime que cette exigence pourrait entraîner une augmentation du travail administratif sans améliorer nécessairement la responsabilité.

S'exprimant lors d'une conférence internationale, Mme Singh a noté que les avocats gèrent déjà plusieurs tâches de conformité liées à la technologie. Elle a suggéré que les normes de divulgation obligatoire de l'IA pourraient devenir une routine bureaucratique plutôt qu'une garantie significative contre d'éventuelles inexactitudes. « Je pense que les normes de divulgation ne feront que compliquer la vie des avocats », a-t-elle déclaré.

Tout en reconnaissant que l'IA sera inévitablement utilisée par les professionnels du droit pour la recherche, la synthèse et la rédaction, la juge Singh a souligné le besoin crucial de vérification humaine. Elle a cité des cas où des documents générés par l'IA, y compris des jugements inexistants, se sont avérés problématiques, conduisant à des décisions de justice erronées. « L'IA va être utilisée. Vous ne voudriez pas que les avocats viennent vous mentir en disant qu'ils n'utilisent pas l'IA. Ils devraient utiliser l'IA, mais avec le standard de vérification humaine », a-t-elle affirmé.

La juge Singh a également préconisé que le système judiciaire développe sa propre plateforme d'IA au lieu de s'appuyer sur des outils publics, en particulier pour le traitement de données judiciaires sensibles. Elle a suggéré que des solutions plus accessibles, telles que des systèmes de transcription en direct abordables, pourraient offrir des améliorations immédiates, notamment pour rationaliser les procès pénaux.

Ces remarques interviennent alors que la Cour suprême examine des projets de réglementation sur l'utilisation de l'IA dans les tribunaux. Les règles proposées autorisent l'IA pour diverses tâches mais exigent une supervision et une vérification humaines. Les barreaux et les entreprises technologiques ont exprimé leurs préoccupations et demandé des clarifications concernant les obligations de divulgation et la portée des audits techniques.