Skådespelerskan Wu Yues AI-genererade falska kampanjvideo ledde till kontots permanenta blockering

Den kinesiska skådespelerskan Wu Yue har avslöjat att ett konto på WeChats videoplattform, "Flower Sister Beauty Diary", använde artificiell intelligens för att skapa en falsk kampanjvideo under hennes namn. Incidenten har lett till att kontot permanent har blockerats och dess innehåll har raderats.

Wu Yue presenterade bevis som visade hur kontot använde AI för att skapa en video med hennes ansikte och röst förfalskade. Videon, som innehöll en AI-genererad version av skådespelerskan som marknadsförde produkter, påstods använda hennes faktiska videoklipp från offentliga framträdanden. Den falska ljudinspelningen "Wu Yue" prisade produkten och hävdade att hon själv initierat samarbetet med företaget.

Representanter från WeChat-teamet bekräftade för nyhetsbyrån The Paper att det aktuella kontot nu är permanent avstängt och allt dess innehåll har tagits bort. Åtgärden kommer i en tid då Kinas tillsynsmyndigheter för internet skärper åtgärderna för att bekämpa vilseledande innehåll och förfalskning av identiteter i korta videor.

Cybersäkerhetsadministrationen i Kina (CAC) lanserade nyligen en tvåmånaderskampanj med titeln "Qinglang - Åtgärda problemen med falska personligheter i korta videor". Kampanjen fokuserar särskilt på att bekämpa användningen av AI för att imitera och missbruka personligheter, inklusive skapandet av falska video- och ljudfiler för att framställa offentliga personer och bedriva olaglig representation och marknadsföring i deras namn.