Deepfake-teknik riskerar att överväldiga brottmål

Senioradvokaten Chander Uday Singh har uttryckt djup oro över hur AI-genererad deepfake-teknik kan allvarligt försvåra brottmålsprocesser i Indien och globalt. Singh betonade under en nyligen genomförd diskussion om AI inom juridiken att "absolut fotorealism och videorealism" nu möjliggör skapandet av material där en person kan framställas säga saker de aldrig sagt, eller befinna sig på platser de aldrig varit.

"En ljudinspelning som personen inte kan förneka, som ingen forensisk expert kan motbevisa som Chander Uday Singhs röst, trots att jag aldrig sagt det," förklarade Singh. Han belyste att den tid och expertis som krävs för att fastställa att sådant material är fabricerat kan bli ett betydande problem i takt med att mängden AI-genererat innehåll ökar.

Singh varnade för att syntetiska bevis kan användas för att fylla luckor i brottmålsprocesser, som ofta bygger på indiciekedjor när direkta vittnesmål saknas. Han befarar att "en slug och skrupelfri åklagare skulle kunna generera tillräckligt med material för att binda den anklagade i knutar i rätten", särskilt i länder där bevisplantering är ett känt problem. Han noterade också att de anklagade kanske inte har resurser att bemöta sådant bevismaterial.

Slutligen uppmanade Singh rättsväsendet att snabbt utveckla skyddsåtgärder. "Om vi inte hoppar på hästen nu och börjar hålla i tyglarna och kontrollera den, kommer det att bli en härdsmälta," sade han och betonade behovet av att införa regleringar innan situationen blir alltför svår att hantera.