Des avocats brésiliens sanctionnés pour avoir tenté de manipuler une IA judiciaire
Deux avocats au Brésil ont écopé d'une amende de 16 000 dollars pour avoir inséré des commandes cachées dans des documents juridiques afin d'influencer l'IA d'un tribunal.
Un tribunal du travail brésilien a infligé une amende de 16 000 dollars à deux avocats ayant tenté de manipuler les outils d'intelligence artificielle utilisés par la justice. Les avocats avaient intégré des instructions dissimulées sous forme de texte blanc sur fond blanc dans leurs conclusions, une méthode invisible pour l'œil humain mais détectable par les systèmes de traitement numérique.
Le texte caché ordonnait à l'IA de traiter le document superficiellement et d'ignorer toute autre instruction contradictoire. Bien que cette tentative de manipulation n'ait pas altéré l'issue du procès – le défendeur n'ayant pas répondu, le plaignant a obtenu gain de cause par défaut – le tribunal a jugé cet acte contraire à la dignité de la justice. En plus de l'amende, les avocats ont été signalés au barreau et aux services des affaires internes du tribunal.
Cette affaire met en lumière les nouveaux enjeux de sécurité liés à l'usage de l'intelligence artificielle dans le secteur juridique. Ce n'est pas la première fois que des tentatives de « prompt injection » sont signalées au Brésil. Ces incidents posent la question de la robustesse des outils numériques face à des tentatives de détournement, alors que les tribunaux cherchent à moderniser leurs procédures internes par l'automatisation.