Oberster Gerichtshof hebt Zollstrafe von 425 Crore Rupien wegen KI-generierter gefälschter Zitate auf
Indiens Oberster Gerichtshof hat eine Zollstrafe von 425 Crore Rupien gegen einen Diamantenexporteur aufgehoben, da die Entscheidung auf nicht existierenden Urteilen und gefälschten Rechtszitaten beruhte, die offenbar von KI generiert wurden.
Indiens Oberster Gerichtshof hat eine Strafe von 425.279.9100 Rupien aufgehoben, die gegen einen Diamantenexporteur verhängt worden war. Das Gericht stellte fest, dass sich der Zollbeamte auf nicht existierende Urteile und gefälschte Zitate gestützt hatte, die offenbar künstliche Intelligenz generiert hatte.
Das Gericht verifizierte die Behauptung des Exporteurs, dass die zitierten Rechtsfälle entweder nicht existierten oder durch gefälschte Zitate gestützt wurden. In einigen Fällen unterstützten tatsächliche Fälle die ihnen zugeschriebenen Rechtsgrundsätze nicht, was das Gericht auf KI-Halluzinationen zurückführte.
Das Urteil bezog sich auf eine frühere Entscheidung zur missbräuchlichen Verwendung von KI in gerichtlichen und quasi-gerichtlichen Anordnungen. Dieses Urteil legte eine Nulltoleranz für die Erstellung, Zitierung oder Verwendung von KI-generierten Präzedenzfällen ohne Überprüfung fest und klassifizierte dies als berufsrechtliches Fehlverhalten für Anwälte und als schwerwiegendes Versäumnis für Richter.
Obwohl das Gericht anerkannte, dass KI bei der Beschleunigung von Entscheidungen helfen kann, warnte es davor, dass sie die richterliche Entscheidungsfindung nicht ersetzen könne. Der Fall wurde zur Neuentscheidung zurückverwiesen, und disziplinarische Maßnahmen gegen den verantwortlichen Zollbeamten können in Betracht gezogen werden.