Intia pyytää Metaa teknisiin muutoksiin deepfake- ja lapsiin kohdistuvan hyväksikäyttömateriaalin torjumiseksi

Intian keskushallitus on pyytänyt Metaa toteuttamaan teknisiä muutoksia alustoillaan deepfake-materiaalin ja lapsiin kohdistuvan seksuaalisen hyväksikäyttömateriaalin (CSAM) torjumiseksi. Keskustelut viranomaisten ja Metan globaalin johdon välillä ovat siirtyneet tekniselle tasolle, jossa yritys esitteli toimenpiteitä, joita se aikoo ottaa käyttöön huoliin vastaamiseksi.

Hallitus on esittänyt vaatimuksia tiettyjen toimenpiteiden käyttöönotosta ja pyytänyt Metaa raportoimaan tuloksista. Viranomaiset aikovat seurata yhtiön edistymistä säännöllisesti, ja uusi tapaaminen on suunnitteilla ensi viikolle. Keskeinen huolenaihe on ollut haitallisen tekoälyn tuottaman sisällön uudelleen ilmestyminen ja leviäminen senkin jälkeen, kun se on merkitty. Hallitus on myös kysynyt, miksi merkitsemättömät tekoälyn tuottamat videot pysyvät näkyvillä Meta-alustoilla.

Intian viranomaiset ovat myös vaatineet Metaa vahvistamaan ihmisten suorittamaa sisällön moderointia, erityisesti intialaisilla kielillä sekä paikallisen kulttuurin ja sosiaalisten kontekstien huomioimista. Meta on ilmoittanut, että sillä on ratkaisuja deepfake-materiaalin, CSAM:n, bottitilien ja synteettisen sisällön käsittelyyn, ja selittänyt, miten näitä toimenpiteitä voidaan soveltaa sen alustoilla.

Keskustelut seurasivat useita tapaamisia, joissa Intian IT-ministeri ja virkamiehet kuulustelivat Metaa sen Intian lakien noudattamisesta, sisältöalgoritmeista ja alustojen turvallisuustoimista. Hallitus aloitti yhteydenpidon Metaan sen jälkeen, kun Facebook oli väliaikaisesti rajoittanut Intian pääministerin Narendra Modin videota. Tapausta tutkivat myös parlamentaarinen komitea sekä lasten oikeuksien ja ihmisoikeuksien puolustuskomissiot.