Indiska domstolar kämpar med AI-genererade "hallucinationer"

Indiens högsta domstol har slagit fast en nolltoleranspolicy mot artificiell intelligens (AI) som genererar falska rättsfall. Den 2 juli 2026 meddelade domstolen att beslut baserade på "hallucinerat" material är ogiltiga. Detta beslut kommer i kölvattnet av flera uppmärksammade fall där domstolar, inklusive nationella tribunaler och högsta domstolar, har använt sig av fabricerade citat, oexisterande domar eller verkliga domar som försetts med uppdiktade stycken.

Under det senaste året har det uppdagats flera fall där olika rättsinstanser tagit sig an fall som byggt på felaktig information från AI. Ett uppseendeväckande fall gällde en tribunal som använde sex tveksamma rättsfall som underlag. Av dessa existerade tre inte, och tre verkliga domar innehöll felaktiga citat eller uppdiktade paragrafer. Det mest oroande var att tribunalen själv hade hittat dessa falska prejudikat, inte parterna i målet.

Högsta domstolen har klassificerat användningen av sådant material som "tjänstefel" för advokater och "allvarliga försummelser" för domare. Domstolen har uppmanat Indiens Advokatsamfund (Bar Council of India) att utarbeta disciplinära riktlinjer och har liknat användningen av "hallucinerade" rättsfall vid en "utsläpp av metylisosyanat i rättvisans och lagens sfär".

Denna nya policy stöds av en serie tidigare händelser. I februari 2026 förklarade högsta domstolen ett domstolsbeslut ogiltigt eftersom det vilade på falska AI-genererade domar, och kallade det "tjänstefel". Även Bombay High Court och Delhi High Court har bötfällt och kritiserat användningen av AI-genererat innehåll i juridiska processer. Även om Punjab and Haryana High Court i mars 2023 interagerade med ChatGPT för att få en bredare förståelse av ett juridiskt ämne, betonades det att detta endast var för att ge en överblick och inte utgjorde ett juridiskt utlåtande.