Les deepfakes menacent les procès pénaux, selon l'avocat CU Singh

L'avocat principal Chander Uday Singh a exprimé de vives inquiétudes quant à l'impact potentiel de la technologie des deepfakes générés par l'IA sur les systèmes de justice pénale. S'exprimant lors d'une récente discussion sur l'IA dans la profession juridique, Singh a souligné le perfectionnement croissant des médias synthétiques.

Singh a déclaré que le niveau actuel de "photoréalisme et de réalisme vidéo absolus" permet la création de faux contenus convaincants, y compris des enregistrements audio et vidéo fabriqués. "Une transcription vocale que la personne ne pourra pas nier, qu'aucun expert médico-légal ne pourra réfuter comme étant la voix de Chander Uday Singh, même si je ne l'ai jamais dite", a-t-il expliqué. Il a souligné que le temps et l'expertise requis pour démystifier de telles preuves fabriquées pourraient devenir un goulot d'étranglement majeur à mesure que le volume de contenu généré par l'IA augmente.

Expliquant davantage les risques, Singh a averti que les deepfakes pourraient être utilisés pour fabriquer des preuves circonstancielles, qui jouent souvent un rôle crucial dans les procès pénaux lorsque les preuves directes sont rares. Il s'est inquiété du fait qu'"un procureur rusé et sans scrupules pourrait générer suffisamment de matériel pour ligoter cette personne en nœuds au tribunal", en particulier dans les juridictions où la falsification de preuves est déjà un problème. Il a également soulevé le point que les accusés pourraient manquer des ressources financières nécessaires pour contester efficacement des preuves fabriquées aussi sophistiquées.

Singh a exhorté la magistrature et les organismes juridiques à développer de manière proactive des garde-fous contre l'utilisation abusive de cette technologie. "Si vous ne montez pas à cheval tout de suite et ne commencez pas à tenir les rênes et à la contrôler, ce sera une catastrophe incontrôlable", a-t-il prévenu, soulignant la nécessité d'une action réglementaire avant que le problème ne devienne ingérable.