Kinas nationella säkerhetsministerium varnar för AI-röstkloning och bedrägerier

Kinas nationella säkerhetsministerium har utfärdat en varning angående en ny typ av bedrägeri som sprids via sociala medier. Enligt myndigheten kan korta röstinspelningar, som erhålls när mottagaren svarar på okända telefonsamtal, användas av bedragare för att skapa en digital kopia av personens röst med hjälp av artificiell intelligens (AI).

Dessa klonade röster kan sedan användas för att utge sig för att vara andra personer, vilket möjliggör identitetsstöld och bedrägerier. Säkerhetsministeriet rekommenderar att man är försiktig med okända samtal och undviker att svara omedelbart, för att inte oavsiktligt bidra med en röstinspelning.

Myndigheten betonar den ökande risken för nya typer av hot mot personlig integritet och datasäkerhet genom AI-teknik. Biometriska data som röst, ansiktsdrag och iris kan samlas in och replikeras. Tekniker som "deepfake" kan skapa realistiska digitala kopior av individer, vilket utgör ett hot mot allmänhetens egendom och informationssäkerhet.

Varningen påminner om att olaglig insamling och spridning av personlig information, inklusive ansiktsbilder och röstinspelningar, är ett brott enligt kinesisk lag. Medborgare uppmanas att vara medvetna om hur deras data samlas in och används av appar och plattformar, och att följa principen "inte dela om det inte är nödvändigt" för att skydda sig mot bedrägerifällor.