Kiinan valtion turvallisuusministeriö varoittaa tekoälyn puheentunnistuksen riskeistä

Kiinan valtion turvallisuusministeriö on antanut varoituksen tekoälyllä (AI) toteutettavan puheentunnistusteknologian mahdollisista riskeistä. Koska tekoäly pystyy jäljittelemään ihmisääniä nopeasti ja tarkasti, sen väärinkäyttö uhkaa yhteiskunnallista järjestystä ja yksilöiden omaisuutta.

Ministeriö on tunnistanut kolme tekoälyn puheentunnistuksen keskeistä piirrettä: nopean näytteenoton, jolla ääntä voidaan kloonata vain muutamassa sekunnissa; äärimmäisen realistisen synteesin, jonka erottaminen aidosta puheesta on vaikeaa; sekä helpon käytön, sillä monet verkkoalustat tarjoavat "äänenkloonaus" -toimintoja tavallisille käyttäjille.

Tämä teknologia voi johtaa kolmenlaisiin riskeihin. Rikolliset voivat käyttää kloonattuja ääniä huijatakseen ihmisiä esiintymällä uhrin perheenjäseninä ja luomalla kiireellisiä tilanteita. Lisäksi tekoälyä käytetään kuuluisuuksien äänien väärentämiseen kaupallisiin tarkoituksiin ja sosiaalisessa mediassa, mikä loukkaa luonnollisten henkilöiden oikeuksia. Sitä voidaan myös käyttää valheellisen tiedon levittämiseen julkisuuden henkilöiden nimissä harhaanjohtamaan yleisöä.

Maa on vakiinnuttanut lainsäädännöllisen järjestelmän näiden riskien hallitsemiseksi. Henkilön äänen suoja on perustettu siviilioikeudellisten suojaamismekanismien ja rikoslainsäädännön avulla. Luvaton äänen kloonaus, syntetisointi tai levittäminen katsotaan loukkaukseksi. Uusia säännöksiä, kuten "väliaikainen hallintamekanismi generatiivisia tekoälypalveluja varten", on vahvistettu vaatimaan alustojen vastuullisuutta, kuten käyttäjien todentamista ja sisällön alkuperän jäljitettävyyttä.

Valtion turvallisuusministeriö kehottaa verkkoalustoja ottamaan täyden vastuunsa sisällön moderointiin, poistamaan laittomia työkaluja ja parantamaan seurantamekanismeja. Alan toimijoiden on noudatettava eettisiä periaatteita, ja kansalaisia kehotetaan suojaamaan henkilökohtaisia äänitietojaan, käyttämään monivaiheista tunnistautumista ja ilmoittamaan epäillyistä huijauksista viranomaisille.