Domare ifrågasätter krav på anmälan av AI-användning för jurister i Indien

Delhi High Court-domaren Prathiba M Singh har uttryckt tveksamhet kring Indiens högsta domstols förslag att jurister ska vara skyldiga att anmäla användningen av artificiell intelligens (AI) i rättshandlingar. Singh menar att kravet kan leda till ökad byråkrati utan att nödvändigtvis förbättra ansvarsutkrävandet.

Vid en internationell konferens om alternativa tvistlösningsmetoder påpekade Singh att jurister redan hanterar flera teknologirelaterade krav, inklusive dokumentdigitalisering och elektronisk arkivering. Hon ansåg att obligatoriska anmälningar av AI-användning riskerar att bli rutinmässigt pappersarbete snarare än ett meningsfullt skydd mot felaktigheter.

Singh betonade att även om AI kommer att användas av jurister för forskning, sammanfattningar och utkast, får det inte ersätta mänskligt omdöme. Hon refererade till fall där AI-genererad information visat sig vara felaktig eller påhittad, inklusive ett fall där hänvisningar till fyra domar visade sig vara obefintliga.

Domaren Singh föreslog att rättsväsendet borde utveckla en egen AI-plattform istället för att förlita sig på publika verktyg, särskilt när det gäller känsliga domstolsuppgifter. Hon lyfte också fram att billigare live-transkriptionssystem skulle kunna vara en mer omedelbar och effektiv åtgärd för att effektivisera bland annat brottmålsprocesser.

Singhs kommentarer kommer samtidigt som Indiens högsta domstol överväger ett utkast till regler för AI-användning i domstolar. Reglerna tillåter AI för flera uppgifter men kräver mänsklig översyn och verifiering. Juristorganisationer och teknikföretag har framfört synpunkter och önskemål om förtydliganden gällande anmälningsskyldighet och omfattningen av tekniska granskningar.