Chinas Ministerium für Staatssicherheit warnt vor Risiken der Stimmklonung mittels KI

Chinas Ministerium für Staatssicherheit hat eine Warnung bezüglich der potenziellen Risiken im Zusammenhang mit KI-gestützter Stimmklonungstechnologie herausgegeben. Das Ministerium äußerte Bedenken, dass die Fähigkeit der KI, menschliche Stimmen schnell und präzise zu replizieren, missbraucht werden könnte, um die soziale Ordnung zu stören und das Eigentum der Öffentlichkeit zu gefährden.

Das Ministerium identifizierte drei Hauptmerkmale der KI-Stimmklonung: ihre Geschwindigkeit, die die Stimmklonung in nur 3 bis 5 Sekunden ermöglicht; ihr Realismus, wobei Studien zeigen, dass die Öffentlichkeit Schwierigkeiten hat, qualitativ hochwertige synthetisierte Stimmen von echten zu unterscheiden; und ihre einfache Bedienung, da viele Online-Plattformen "Stimmklonungsfunktionen" für normale Benutzer anbieten.

Diese Fähigkeiten bergen drei Hauptrisiken. Kriminelle können Stimmproben von Familienangehörigen von Opfern sammeln, um betrügerische Anrufe zu synthetisieren und dringende Szenarien für Finanzbetrügereien zu schaffen. Falsche Audio- und Videoinhalte mit geklonten Prominentenstimmen sind auf verschiedenen Plattformen für Werbung und Traffic-Generierung aufgetaucht und verletzen die Rechte natürlicher Personen. Darüber hinaus können geklonte Stimmen von Beamten und öffentlichen Persönlichkeiten verwendet werden, um falsche Aussagen oder politische Interpretationen zu erfinden und Fehlinformationen über soziale Medien zu verbreiten.

Um diesen Bedrohungen entgegenzuwirken, hat China einen Rechtsrahmen geschaffen. Der Schutz der Stimme einer Person wird gemäß dem Zivilgesetzbuch ähnlich wie das Recht am eigenen Bild behandelt, was die unbefugte Klonung, Synthese oder Verbreitung erkennbarer Sprache zu einer Verletzung macht. Vorschriften wie die "Interim Measures for the Management of Generative Artificial Intelligence Services" schreiben Plattformverantwortlichkeiten vor, einschließlich Benutzerüberprüfung und Rückverfolgbarkeit von Inhalten.

Das Ministerium für Staatssicherheit fordert Online-Plattformen dringend auf, ihre Hauptverantwortlichkeiten wahrzunehmen, indem sie unzulässige Werkzeuge entfernen, die Inhaltsprüfung verbessern und Warnmechanismen implementieren. Branchenakteure werden aufgefordert, ethische Standards einzuhalten, während die Öffentlichkeit aufgefordert wird, persönliche Stimmendaten zu schützen, Multifaktor-Authentifizierung für sensible Verifizierungen zu verwenden und Fälle von Rechtsverletzungen oder Betrug den Behörden zu melden.