Kiinan valtiollinen turvallisuuselin varoittaa AI-pohjaisista äänikloonauspetoksista

Kiinan valtiollinen turvallisuuselin (Ministry of State Security) on antanut varoituksen sosiaalisessa mediassa leviävistä äänipohjaisista petoksista. Viranomaisten mukaan lyhyt, jopa vain muutaman sekunnin mittainen ääninäyte tuntemattomasta puhelusta voidaan kaapata ja käyttää tekoälyn (AI) avulla henkilön äänen kloonaamiseen.

Tämä kloonattu ääninäyte voidaan sitten hyödyntää identiteettivarkauksiin ja petoksiin. Viranomaiset kehottavat kansalaisia olemaan varovaisia tuntemattomista numeroista tulevien puheluiden suhteen ja olemaan vastaamatta heti puheluun, jotta vältetään tahattomasti ääninäytteen antaminen.

Varoitus korostaa tekoälyn uusien uhkien kasvua henkilötietojen turvallisuudelle. Pelkkä kasvojentunnistus, puheanalyysi ja muut biometriset tiedot voivat joutua vääriin käsiin. Tekoäly voi yhdistää eri tietolähteistä kerättyä tietoa, kuten kuvia ja ääniä, luodakseen uskottavia digitaalisia identiteettejä, joita käytetään rikoksiin.

Virallinen tiedote muistuttaa, että henkilötietojen, kuten kasvojen tai ääninäytteiden, luvaton kerääminen ja levittäminen on laitonta Kiinassa ja siitä voidaan rangaista rikosoikeudellisesti. Kansalaisia kehotetaan olemaan harkitsevaisia tietojen jakamisessa verkossa ja sovelluksissa.