La Cour suprême annule une amende douanière de 425 crores roupies pour des citations erronées générées par l'IA

La Cour suprême de l'Inde a annulé une amende de 425 279 9100 roupies imposée à un exportateur de diamants. La cour a déterminé que le fonctionnaire des douanes s'était appuyé sur des jugements inexistants et des citations juridiques fabriquées, qui semblaient avoir été générés par l'intelligence artificielle.

Le banc de juges a vérifié la prétention de l'exportateur selon laquelle la jurisprudence citée était soit inexistante, soit soutenue par de fausses citations. Dans certains cas, des affaires réelles ne soutenaient pas les principes juridiques qui leur étaient attribués, ce que le tribunal a attribué à une hallucination de l'IA.

La décision faisait référence à une décision antérieure concernant l'utilisation abusive de l'IA dans les ordonnances judiciaires et quasi-judiciaires. Cet arrêt a établi une tolérance zéro pour la production, la citation ou l'utilisation de précédents générés par l'IA sans vérification, la classant comme une faute professionnelle pour les avocats et une faute grave pour les juges.

Bien que la cour ait reconnu le potentiel de l'IA pour aider à accélérer les décisions, elle a averti qu'elle ne pouvait pas remplacer le pouvoir discrétionnaire du juge. L'affaire a été renvoyée pour une nouvelle décision, et des mesures disciplinaires pourraient être envisagées à l'encontre du fonctionnaire des douanes responsable de la décision erronée.