KI-generiertes gefälschtes Werbevideo von Schauspielerin Wu Yue führt zur Sperrung des Kontos

Die chinesische Schauspielerin Wu Yue hat aufgedeckt, dass ein Videokonto auf WeChat namens „Flower Sister Beauty Diary“ künstliche Intelligenz nutzte, um ein betrügerisches Werbevideo mit ihrem Gesicht und ihrer Stimme zu erstellen. Der Vorfall führte zur dauerhaften Schließung des Kontos und der Löschung seiner Inhalte.

Wu Yue legte Beweise vor, die zeigten, wie das Konto KI einsetzte, um ein Video zu generieren, das ihr Bild und ihre Stimme manipulierte. Der Inhalt zeigte eine KI-Version der Schauspielerin, die Produkte bewarb, wobei angeblich Filmmaterial von ihren öffentlichen Auftritten verwendet wurde. Die synthetisierte Audioaufnahme stellte „Wu Yue“ dar, wie sie ein Produkt lobte und fälschlicherweise behauptete, sie habe die Zusammenarbeit initiiert.

Vertreter des WeChat-Teams bestätigten gegenüber The Paper, dass das betreffende Konto dauerhaft gesperrt wurde und alle zugehörigen Inhalte entfernt wurden. Diese Maßnahme folgt auf ein umfassenderes Vorgehen der chinesischen Internetregulierungsbehörden gegen betrügerische Praktiken und Identitätsmanipulationen in Kurzvideoinhalten.

Chinas Cyberspace Administration (CAC) startete kürzlich eine zweimonatige Kampagne, die sich gegen „Chaos falscher Identitäten“ auf Kurzvideoplattformen richtet. Die Initiative zielt insbesondere darauf ab, den Missbrauch von KI zur Identitätsnachahmung zu bekämpfen, einschließlich der Erstellung gefälschter audiovisueller Inhalte, um öffentliche Personen für unbefugte Werbe- und Marketingzwecke falsch darzustellen.