Nasscom pyytää muutoksia korkeimman oikeuden tekoälysääntöihin

Intialainen teollisuusjärjestö Nasscom on esittänyt Intian korkeimmalle oikeudelle vaatimuksia liittyen luonnokseen tekoälyn käyttöä oikeuslaitoksessa koskevista säännöksistä. Keskeisinä pyyntöinä ovat korkean riskin tekoälysovellusten tarkempi määrittely ja se, että tekniset auditoinnit eivät automaattisesti vaadi lähdekoodin paljastamista.

Korkeimman oikeuden tekoälykomitea julkaisi luonnoksen kesäkuun alussa ja pyysi kommenteja. Säännökset koskisivat tekoälyn käyttöä kaikissa oikeusasteissa oikeustieteellisessä tutkimuksessa, transkriptiossa, käännöksissä ja asianhallinnassa, mutta sen sijaan harkinta, tuomioiden antaminen ja uskottavuuden arviointi säilyisivät tuomareilla.

Nasscomin mukaan luonnoksessa on määrittelemättä termejä kuten "merkittävä vahingon riski" ja "korkean riskin sovellukset". Järjestö korostaa, että selkeämmät määrittelyt ja esimerkit riskiarvioinnin perusteista auttaisivat oikeuslaitosta arvioimaan ja ottamaan tekoälyjärjestelmiä käyttöön johdonmukaisesti.

Lisäksi Nasscom kritisoi säännöstä, joka koskee teknisiä auditointeja. Järjestö pelkää, että sääntö voi tulkita siten, että oikeuslaitoksella olisi pääsy tekoälyjärjestelmien lähdekoodiin. Tämä on ongelmallista erityisesti silloin, kun oikeuslaitos käyttää kolmansien osapuolien tarjoamia tekoälypalveluita, joiden lähdekoodia ei yleensä paljasteta. Nasscom ehdottaa, että auditoinnin tulisi keskittyä järjestelmän luotettavuuteen, turvallisuuteen ja selitettävyyteen, ja syvempi koodin tarkastus tulisi varata vain korkean riskin tai räätälöityihin järjestelmiin.

Nämä esitetyt muutokset heijastavat laajempaa keskustelua tekoälyn sääntelyn riskeistä ja hyödyistä oikeusjärjestelmässä, jossa alan toimijat ja lakimiesjärjestöt ovat tuoneet esiin erilaisia huolenaiheita.