Deepfakes können Strafverfahren überfordern, warnt Anwalt CU Singh

Senior-Anwalt Chander Uday Singh hat erhebliche Bedenken hinsichtlich der potenziellen Auswirkungen von KI-generierter Deepfake-Technologie auf Strafjustizsysteme geäußert. Auf einer kürzlichen Diskussion über KI im juristischen Berufsstand hob Singh den zunehmenden Raffinement von synthetischen Medien hervor.

Singh erklärte, dass das derzeitige Niveau von "absolutem Fotorealismus und Videorealismus" die Erstellung überzeugender gefälschter Inhalte ermöglicht, einschließlich fabrizierter Audio- und Videodateien. "Eine Transkription einer Stimme, die die Person nicht leugnen kann, die kein forensischer Experte als Stimme von Chander Uday Singh abweisen kann, obwohl ich das nie gesagt habe", erklärte er. Er betonte, dass die Zeit und das Fachwissen, die erforderlich sind, um solche fabrizierte Beweise zu entlarven, zu einem erheblichen Engpass werden könnten, da die Menge der von KI generierten Inhalte zunimmt.

Singh warnte weiter vor den Risiken und erklärte, dass Deepfakes verwendet werden könnten, um Indizienbeweise zu fälschen, die in Strafverfahren oft eine entscheidende Rolle spielen, wenn direkte Beweise knapp sind. Er äußerte die Sorge, dass "ein gerissener und skrupelloser Staatsanwalt genügend Material erzeugen könnte, um die Person vor Gericht in die Enge zu treiben", insbesondere in Gerichtsbarkeiten, in denen Beweismanipulation bereits ein Problem darstellt. Er wies auch darauf hin, dass Angeklagte möglicherweise nicht über die finanziellen Mittel verfügen, um solch ausgefeilte fabrizierte Beweise wirksam anzufechten.

Singh forderte die Justiz und die juristischen Gremien auf, proaktiv Schutzmaßnahmen gegen den Missbrauch dieser Technologie zu entwickeln. "Wenn Sie nicht sofort aufspringen und die Zügel in die Hand nehmen und es kontrollieren, wird es eine außer Kontrolle geratene Katastrophe geben", warnte er und betonte die Notwendigkeit von regulatorischen Maßnahmen, bevor das Problem unüberschaubar wird.