Korkein oikeus kumosi 425 miljoonan euron tullirangaistuksen tekoälyn luomien väärien viittausten vuoksi

Intian korkein oikeus on kumonnut 425,27 miljoonan euron tullimaksun, joka määrättiin timantinviejälle. Päätös perustui siihen, että tulliviranomainen oli käyttänyt perusteenaan olemattomia tuomioita ja sepitettyjä oikeudellisia viittauksia, jotka ilmeisesti tekoäly oli luonut.

Oikeus katsoi, että tulliviranomainen oli nojannut tapauksiin, jotka olivat joko olemattomia tai joissa oli käytetty väärennettyjä viittauksia. Joissakin tapauksissa todelliset oikeustapaukset eivät tukeneet niille attribuutioituja oikeudellisia periaatteita. Oikeuden mukaan tämä oli seurausta tekoälyn harha-aistimuksista (hallucinaatioista).

Määräys viittasi aiempaan päätökseen tekoälyn väärinkäytöstä oikeudellisissa ja lainkäyttöteisissä päätöksissä. Päätös korosti, että tekoälyn luomien ennakkotapausten tuottaminen, viittaaminen tai käyttäminen ilman varmistusta on nollatoleranssia ja ammatillista vilppiä asianajajille sekä vakava laiminlyönti tuomareille.

Korkein oikeus kuitenkin selvensi, ettei se vastusta tekoälyn käyttöä sinänsä. Se tunnusti tekoälyn potentiaalin päätöksenteon nopeuttamisessa, mutta varoitti, ettei se voi korvata inhimillistä harkintaa. Tapaus palautettiin uudelleenkäsittelyyn ja mahdollisesti kurinpitotoimiin asianomaista virkamiestä kohtaan.