Gujarat Högsta Domstol Ogiltigförklarade GST-beslut Baserat på Icke-existerande AI-genererat Rättsfall

Gujarat Högsta Domstol har ogiltigförklarat ett beslut gällande Goods and Services Tax (GST) efter att en tjänsteman baserat sitt avgörande på AI-genererade rättsfall som inte existerade.

Fallet involverade Faiz Enterprise, som överklagade flera beslut, inklusive en varning, ett avslag på begäran om återkallande och ett överklagandebeslut. Tvisten uppstod då tjänstemannen hänvisade till rättsfall som var antingen obefintliga, felaktigt citerade eller irrelevanta.

Domstolen konstaterade att tjänstemannen, Devang Arvindkumar Yadav, hade förlitat sig uteslutande på AI-genererade rättsfall. Tjänstemannen bad om ursäkt och uppgav att bristande erfarenhet lett till misstaget, och att han använde AI för att utforma beslutet och citera rättsfall. Han deltog även i en AI-utbildning.

Högsta domstolen upphävde varningen, det ursprungliga beslutet och överklagandebeslutet. Myndigheten ålades att utfärda ett nytt beslut där Faiz Enterprises försvar beaktas. Gujarat State Tax Department har även utfärdat nya riktlinjer för AI-användning den 18 augusti.

Detta fall belyser vikten av ansvarsskyldighet vid användning av AI inom offentlig förvaltning, särskilt när beslut kan påverka företags rättigheter och ekonomi. Liknande fall har rapporterats där domstolar ogiltigförklarat beslut baserat på felaktiga AI-genererade rättsfall.