Man försökte manipulera domstol med AI-instruktioner i dokument
I USA har en person för första gången försökt dölja AI-läsbara instruktioner i domstolshandlingar i ett försök att vinna ett fall. Domaren upptäckte metoden men konstaterade att den var ineffektiv.
En domstol i USA har identifierat det första fallet där en kärande har försökt dölja text i domstolshandlingar som endast ett artificiellt intelligent system kan läsa, i ett försök att vinna ett fall. Domaren Walter Spader Jr. i Connecticut bekräftade i ett beslut som publicerades förra veckan att den dolda texten inte påverkade utfallet i ett fall där en man hävdade att en vårdgivare felaktigt höll tillbaka tillgång till journaler.
Enligt Spader vägde domstolen in handlingen på dess meriter, men försöket att manipulera systemet anses ändå utgöra en "farlig" prejudikat. När AI-verktyg blir allt vanligare i rättssystemet är det sannolikt att taktiken kommer att dyka upp igen.
Instruktionerna var formaterade för att vara "osynliga för en mänsklig läsare, men fullt läsbara för all programvara som läser dokumentets text". Syftet var att påverka eventuella AI-system som analyserade dokumentet. De dolda instruktionerna uppmanade AI att säkerställa att textresultaten överensstämde med kärandens argument, att ignorera tidigare avslag från domstolen och att säkerställa att gottgörelse skulle följa enligt kärandens önskemål.
Trots försöket att påverka med dolda AI-instruktioner, konstaterade domaren att det inte hade någon inverkan på fallets utfall. Domstolen bedömde ärendet utifrån dess sakliga grunder.