Brasilianska advokater bötfällda för försök att manipulera AI i domstol
Två advokater i Brasilien har dömts till böter på 16 000 dollar efter att ha försökt styra en domstols AI-verktyg med dolda instruktioner i juridiska dokument.
En arbetsdomstol i Brasilien har utdömt böter på cirka 16 000 dollar mot två advokater som försökt manipulera domstolens AI-system genom så kallad "prompt injection". Advokaterna hade bäddat in instruktioner i dokumenten med vit text på vit bakgrund, vilket gjorde dem osynliga för mänskliga läsare men läsbara för den digitala behandlingsprocessen.
Instruktionerna uppmanade AI-verktyget att endast behandla dokumentet ytligt och ignorera andra kommandon. Även om manipulationen inte påverkade utfallet av målet, då svaranden uteblev och käranden vann, bedömde domstolen att agerandet var ett allvarligt avsteg från professionell etik. Utöver böterna har advokaterna anmälts till det lokala advokatsamfundet för vidare disciplinär granskning.
Denna händelse belyser de nya säkerhetsutmaningar som rättsväsendet möter i takt med att AI integreras i juridiska processer. Tidigare fall i Brasilien har visat på liknande försök att kringgå rättsliga kontrollfunktioner via teknisk manipulation. Experter menar att domstolar nu står inför en utmaning i att validera inlämnat material i en tid där digitala dokument kan innehålla dolda instruktioner som är svåra att upptäcka.