Deepfake-teknologia uhkaa oikeusprosesseja
Seniorilakimies CU Singh varoittaa, että tekoälyn luomat deepfake-videot ja -äänet voivat vaikeuttaa todisteiden aitouden varmistamista rikosoikeudenkäynneissä.
Seniorilakimies Chander Uday Singh on ilmaissut syvän huolensa siitä, miten tekoälyn tuottama syväväärennösteknologia, eli deepfake-teknologia, voi vakavasti vaikeuttaa rikosoikeudenkäyntejä Intiassa ja muualla.
Singh totesi äskettäisessä keskustelussa tekoälyn käytöstä oikeudellisessa ammatissa, että "absoluuttinen fotorealismi ja videorealismi" mahdollistavat nyt sellaisten sisällöntuottamisien, joissa henkilö voi esiintyä sanomassa asioita, joita hän ei ole sanonut, tai esiintyä paikoissa, joissa hän ei ole ollut.
"Äänitallenne, jonka henkilö itse kieltäytyisi todistamasta, ja jonka mikään forensiikka-asiantuntija ei pystyisi kiistämään, että tämä oli Chander Uday Singhin ääni, vaikka en olisi sitä koskaan sanonutkaan," Singh selitti. Hän korosti, että todisteiden aitouden varmistamiseen tarvittava aika ja asiantuntemus voivat muodostua merkittäväksi ongelmaksi, kun tekoälyn tuottaman sisällön määrä kasvaa.
Singh varoitti, että synteettisiä todisteita voitaisiin käyttää täyttämään aukkoja, joita muuten jäisi rikosoikeudenkäynneissä, jotka usein perustuvat todistajien puuttuessa asiainhaarojen ketjuun. Hän pelkää, että "uja tunteettomat syyttäjät voisivat tuottaa tarpeeksi materiaalia sitomaan syytetyn solmuihin oikeussalissa", erityisesti maissa, joissa todisteiden istuttaminen on tunnettu ongelma. Hän myös huomautti, että syytetyillä ei välttämättä ole resursseja vastata tällaiseen todistusaineistoon.
Lopuksi Singh vaati oikeuslaitosta kehittämään suojatoimia nopeasti. "Jos emme tartu ohjaksiin nyt ja ala hallita tätä, siitä tulee hallitsematon romahdus," hän sanoi, korostaen tarvetta luoda sääntelyä ennen kuin tilanne kärjistyy liian vaikeaksi hallita.