Högsta domstolen upphäver tullavgift på 425 miljoner rupier på grund av AI-genererade falska citat

Indiens högsta domstol har upphävt en tullavgift på 425 279 9100 rupier som påförts en diamantexportör. Domstolen fastslog att tulltjänstemannen hade förlitat sig på icke-existerande domar och fabricerade juridiska citat, som uppenbarligen hade genererats av artificiell intelligens.

Rätten fann att tulltjänstemannen hade använt sig av rättsfall som antingen inte existerade eller som hade falska citat som stöd. Vissa verkliga fall stödde inte heller de rättsliga principer som tillskrevs dem, vilket domstolen tillskrev AI-hallucinationer.

Beslutet hänvisade till ett tidigare avgörande gällande missbruk av AI i juridiska och kvasi-juridiska beslut. Det fastslog noll tolerans för att producera, citera eller använda AI-genererade prejudikat utan verifiering, och klassificerade det som professionell oskicklighet för advokater och ett allvarligt tjänstefel för domare.

Högsta domstolen klargjorde dock att den inte motsätter sig användningen av AI i sig. Domstolen erkände att AI kan underlätta och påskynda beslutsfattandet, men varnade för att det inte kan ersätta mänskligt omdöme. Fallet återförvisades för ny prövning och med möjlighet till disciplinära åtgärder mot den berörda tjänstemannen.