Mann injizierte KI-Prompts in Gerichtsunterlagen zur Beeinflussung eines Falls
Ein Kläger in den USA versuchte erstmals, KI-lesbare Anweisungen in Gerichtsunterlagen zu verstecken. Der Richter entdeckte die Taktik, die jedoch keinen Einfluss auf den Fall hatte.
In den USA wurde erstmals ein Kläger identifiziert, der versucht hat, Anweisungen für künstliche Intelligenz (KI) in Gerichtsunterlagen zu verstecken, um einen Fall zu beeinflussen. Die versteckten Anweisungen waren so konzipiert, dass sie von KI-Systemen gelesen werden konnten, für menschliche Augen jedoch unsichtbar waren.
Richter Walter Spader Jr. aus Connecticut bestätigte in einer Entscheidung, die letzte Woche veröffentlicht wurde, das Vorhandensein des versteckten Textes. Er stellte fest, dass die Prompts keine Auswirkungen auf den Fall hatten, in dem ein Mann behauptete, ein Gesundheitsdienstleister habe ihm den Zugang zu seinen Unterlagen zu Unrecht verweigert. Das Gericht prüfte die Einreichung anhand ihrer Sachgründe, so Spader.
Der Richter warnte jedoch, dass dieser Versuch einen "gefährlichen" Präzedenzfall schaffe. Da KI-Werkzeuge zunehmend in Gerichtssysteme integriert werden, wird erwartet, dass ähnliche manipulative Taktiken aufkommen werden. Die Prompts wiesen jede KI, die das Dokument prüfte, an, sicherzustellen, dass die Ausgabe mit den Argumenten des Klägers übereinstimmte, frühere Ablehnungen des Gerichts zu ignorieren und die gewünschte Abhilfe sicherzustellen.
Letztendlich befand das Gericht den Inhalt der Einreichung allein aufgrund ihrer Sachgründe für ausreichend und die KI-Prompts somit als unwirksam. Die Entscheidung des Richters konzentrierte sich auf die Substanz der Ansprüche des Klägers bezüglich des Zugangs zu Gesundheitsakten.