Näyttelijä Wu Yue'n tekoälyväärennös johti tilin pysyvään sulkemiseen

Kiinalainen näyttelijä Wu Yue on paljastanut, että WeChatin videoalusta "Flower Sister Beauty Diary" käytti tekoälyä luodakseen hänen nimissään harhaanjohtavan mainosvideon. Tapaus johti kyseisen tilin pysyvään sulkemiseen ja sisällön poistamiseen.

Wu Yue julkaisi todisteita, jotka osoittivat tilin käyttäneen tekoälyä luomaan videon, jossa hänen kasvonsa ja äänensä olivat väärennettyjä. Videossa esiintyi tekoälyversio näyttelijästä mainostamassa tuotteita, ja sen väitettiin käyttävän hänen todellisia videoitaan julkisista esiintymisistään. Väärennetyssä äänitteessä "Wu Yue" kehui tuotetta, väittäen itse etsineensä yhteistyötä yrityksen kanssa.

WeChatin tiimin edustajat vahvistivat uutistoimisto The Paperille, että kyseinen tili on nyt pysyvästi suljettu ja kaikki sen sisältö on poistettu. Tämä toimenpide tulee ajankohtana, jolloin Kiinan verkkosääntelyviranomaiset ovat tehostaneet toimiaan lyhytvideoiden harhaanjohtavan sisällön ja henkilökuvien väärentämisen suitsimiseksi.

Kiinan keskustoimisto verkkotiedonhallinnalle (CAC) käynnisti hiljattain kahden kuukauden kampanjan "Qinglang - Tasa-arvoisen lyhytvideoiden henkilökuvien epäselvyyksien korjaaminen". Kampanjan tavoitteena on erityisesti puuttua tekoälyn käyttöön hahmojen jäljittelyssä ja väärinkäytössä, mukaan lukien väärennettyjen video- ja äänitiedostojen luominen julkisuuden henkilöiden esittämiseksi ja heidän nimissään tapahtuvaan laittomaan edustamiseen ja markkinointiin.