Nasscom begär ändringar i högsta domstolens AI-regler
Indiens teknikförening Nasscom har bett Indiens högsta domstol om förtydliganden gällande utkastet till regler för AI-användning, särskilt kring definitionen av högriskanvändning och krav på källkodsdelning vid tekniska revisioner.
Indiens branschorganisation Nasscom har framfört krav till landets högsta domstol gällande ett utkast till regler för användning av artificiell intelligens (AI) inom rättsväsendet. De mest framträdande punkterna rör behovet av en tydligare definition av högriskapplikationer och att tekniska revisioner inte automatiskt ska kräva att källkoden avslöjas.
Den högsta domstolens AI-kommitté presenterade utkastet i början av juni och öppnade för synpunkter. Reglerna ska styra användningen av AI vid Högsta domstolen, hovrätter, tingsrätter och tribunalerna. AI tillåts för juridisk forskning, transkribering, översättning och ärendehantering, medan domslut, straffmätning och trovärdighetsbedömning förblir domares ansvar.
Nasscom menar att utkastet saknar definitioner för termer som "betydande risk för skada" och "högriskapplikationer". Organisationen betonar att tydligare definitioner och illustrativa exempel på riskkategorisering skulle hjälpa domstolarna att bedöma och implementera AI-system på ett konsekvent sätt.
Vidare kritiserar Nasscom den bestämmelse som rör tekniska revisioner. Organisationen befarar att regeln kan tolkas som att domstolarna får tillgång till AI-systemens källkod. Detta är problematiskt, särskilt när domstolar använder tredjepartstjänster vars källkod normalt inte avslöjas. Nasscom föreslår att revisioner bör fokusera på systemets tillförlitlighet, säkerhet och förklarbarhet, och att djupare granskning av koden endast bör tillämpas på högrisk- eller skräddarsydda system.
Dessa föreslagna ändringar speglar en bredare debatt om riskerna och fördelarna med AI-reglering inom rättssystemet, där både industriaktörer och advokatorganisationer har lyft fram olika farhågor.