Mies yritti manipuloida oikeusistuinta tekoälykehotteilla

Yhdysvalloissa on havaittu ensimmäinen tapaus, jossa oikeudenkäyntiin osallistunut henkilö yritti piilottaa asiakirjoihinsa tekoälyjärjestelmien luettavissa olevia kehotteita voittaakseen tapauksen. Connecticutissa tuomari Walter Spader Jr. vahvisti viime viikolla julkaistussa päätöksessä, että piilotetulla tekstillä ei ollut vaikutusta tapaukseen, jossa mies väitti terveydenhuollon tarjoajan pidättävän perusteettomasti pääsyä potilastietoihin.

Spaderin mukaan oikeus punnitsi hänen asiakirjaansa sisällön perusteella, mutta yritys loi vaarallisen ennakkotapauksen. Kun tekoälytyökalut yleistyvät oikeusjärjestelmissä, tällaisia taktiikoita tullaan todennäköisesti näkemään jatkossa.

Mies oli muotoillut piilotetut ohjeet "näyttämään ihmislukijalta näkymättömiltä, mutta täysin luettavissa mille tahansa asiakirjan tekstiä lukevalle ohjelmistolle". Tavoitteena oli vaikuttaa mahdollisiin oikeusistuinta lukeviin tekoälyjärjestelmiin. Kehotteet ohjasivat tekoälyä varmistamaan, että dokumentin tulokset olisivat sopusoinnussa kantajan argumenttien kanssa, sivuuttamaan aiemmat oikeuden kielteiset päätökset ja varmistamaan, että hyvitykset seuraisivat kantajan toivomalla tavalla.

Tapauksessa, jossa mies väitti terveydenhuollon tarjoajan pidättävän perusteettomasti pääsyä potilastietoihin, tuomari Walter Spader Jr. havaitsi, että piilotetulla tekstillä ei ollut vaikutusta asiaan. Tuomioistuin punnitsi tapauksen sen ansioiden perusteella.