Nasscom demande des modifications aux règles provisoires de la Cour suprême sur l'IA
Nasscom, l'association technologique indienne, a demandé à la Cour suprême des éclaircissements sur les règles provisoires concernant l'utilisation de l'IA, notamment sur la définition des applications à haut risque et les exigences de divulgation du code source lors des audits techniques.
Nasscom, une organisation industrielle indienne, a soumis des recommandations à la Cour suprême concernant son projet de règlementation pour l'utilisation de l'intelligence artificielle (IA) dans les tribunaux. Les principales demandes incluent une définition plus claire des applications d'IA à haut risque et la garantie que les audits techniques n'exigeront pas automatiquement la divulgation du code source.
Le comité d'IA de la Cour suprême a publié le projet plus tôt en juin et a invité les commentaires. Les règles proposées régiraient l'utilisation de l'IA à tous les niveaux de juridiction pour la recherche juridique, la transcription, la traduction et la gestion des dossiers. Cependant, la prise de décision, la détermination des peines et l'évaluation de la crédibilité resteraient du ressort exclusif des juges.
Nasscom a souligné que le projet ne définit pas des termes tels que "risque substantiel de préjudice" et "applications à haut risque". L'organisation a insisté sur le fait que des définitions plus claires et des exemples illustratifs de catégorisation des risques permettraient aux tribunaux d'évaluer et de déployer les systèmes d'IA de manière plus cohérente.
De plus, Nasscom a exprimé des préoccupations concernant la réglementation des audits techniques, craignant qu'elle n'implique que les tribunaux auraient accès au code source des systèmes d'IA. Ceci est problématique, en particulier lorsque les tribunaux utilisent des services d'IA tiers dont le code source n'est généralement pas révélé. Nasscom propose que les audits se concentrent sur la fiabilité, la sécurité et l'explicabilité du système, avec une inspection plus approfondie du code réservée aux systèmes à haut risque ou personnalisés.
Ces amendements proposés reflètent une discussion plus large sur les risques et les avantages de la réglementation de l'IA dans le système judiciaire, diverses préoccupations ayant été soulevées par les acteurs de l'industrie et les organismes professionnels juridiques.