Xiaomi ilmoittaa: Kaksi verkkovierailijaa pidätetty AI-väärennösvideoiden takia

Kiinalainen teknologiayhtiö Xiaomi ilmoitti tiistaina, että viranomaiset ovat pidättäneet ja sakottaneet kaksi verkkovierailijaa tekoälyn (AI) avulla luotujen väärennettyjen videoita levittämisestä. Videot sisälsivät harhaanjohtavaa tietoa yhtiön automallista ja loukkasivat sen johtoa.

Määräyksestä pidätettiin yhden verkkokäyttäjän nimi oli "旧**口". Hänen todettiin pitkään käyttäneen tekoälyä väärien auto-onnettomuusvideoiden luomiseen, jotka vahingoittivat Xiaomin autotuotteiden mainetta ja loukkasivat yritysjohtoa. Viranomaiset määräsivät hänelle seitsemän päivän hallinnollisen pidätyksen ja vaativat kaikkien loukkaavien linkkien poistamista.

Toinen verkkokäyttäjä, "花**车", sai hallinnollisen sakon ja määräyksen poistaa kaikki loukkaavat linkit samankaltaisten tekoälyllä luotujen videoiden levittämisestä. Xiaomi kiitti poliisia sen oikeudenmukaisesta toiminnasta ja korosti, että verkko ei ole laiton alue. Yhtiö ilmoitti jatkavansa oikeustoimia tekoälyn väärinkäyttöä vastaan, erityisesti kun sitä käytetään väärien videoiden luomiseen ja levittämiseen yrityksen maineen vahingoittamiseksi.

Xiadong Jieyun, Xiaomin strategisen markkinoinnin varajohtaja, kommentoi tapausta Twitterissä: "AI on hyvä teknologia, mutta sitä ei pidä käyttää väärin. Erityisesti tekoälyn käyttöön valehteluun tulee suhtautua vakavasti, muuten siitä seuraa seurauksia."