Brasilianische Anwälte wegen Manipulationsversuchs von Gerichts-KI bestraft
Zwei Anwälte in Brasilien müssen 16.000 Dollar Strafe zahlen, nachdem sie versucht hatten, die KI eines Arbeitsgerichts durch versteckte Befehle zu beeinflussen.
Ein brasilianisches Arbeitsgericht hat zwei Anwälte mit einer Geldstrafe von etwa 16.000 US-Dollar belegt, da diese versuchten, die KI-Systeme des Gerichts durch versteckte Textpassagen zu manipulieren. Die Anwälte hatten in ihre Schriftsätze Anweisungen in weißer Schrift auf weißem Hintergrund eingebettet, die für menschliche Betrachter unsichtbar waren, aber von den digitalen Verarbeitungstools der Justiz gelesen wurden.
Die versteckten Anweisungen forderten das KI-System dazu auf, die Dokumente nur oberflächlich zu prüfen und andere Instruktionen zu ignorieren. Obwohl die Manipulation keinen Einfluss auf den Ausgang des Verfahrens hatte – die Gegenseite reagierte nicht, und der Kläger gewann standardmäßig – bewertete das Gericht das Verhalten als einen Angriff auf die Integrität der Justiz. Neben der Geldstrafe wurden die Anwälte der Anwaltskammer sowie der internen Kontrollstelle des Gerichts gemeldet.
Der Vorfall unterstreicht die wachsenden Herausforderungen bei der Integration von KI in juristische Prozesse. Brasilianische Gerichte waren bereits in der Vergangenheit mit Versuchen konfrontiert, KI-Systeme durch sogenannte „Prompt Injection“-Techniken zu beeinflussen. Dies wirft kritische Fragen über die Sicherheit und Verifizierbarkeit digitaler Dokumente in einer zunehmend automatisierten Rechtsprechung auf.