Intia pyytää nopeuttamaan tekoälytyökalua lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaalin havaitsemiseksi

Intian nais- ja lapsikehitysministeri Annapurna Devi on kehottanut Kansallista lapsen oikeuksien suojelua edistävää viranomaista (NCPCR) nopeuttamaan kahta lapsiturvallisuushanketta. Näihin kuuluvat tekoälyyn perustuva työkalu lapsiin kohdistuvan seksuaalisen hyväksikäytön ja hyväksikäyttömateriaalin (CSEAM) tunnistamiseksi verkossa sekä sosiaalisen median ohjeet teknologiayrityksille. Ministeri korosti näiden olevan välittömiä prioriteetteja komission toimistossa 13. lokakuuta pidetyssä katselmuksessa.

Tekoälytyökalun tarkoituksena on tunnistaa CSEAM-materiaalia itsenäisesti ilman valitusten tai ilmoitusten odottamista. NCPCR kehittää työkalua yhteistyössä elektroniikka- ja tietotekniikkaministeriön (MeitY) kanssa. Hankkeen nykyisestä kehitystilanteesta, julkaisupäivästä, teknisistä yksityiskohdista tai siitä, miten materiaalia raportoidaan ja poistetaan, ei ole annettu tarkempia tietoja.

Muhun prioriteettiin kuuluvat sosiaalisen median ohjeet teknologiayrityksille. NCPCR:n puheenjohtaja V. Prem Chand esitteli ministerille komission laatimia ohjeita, mutta niiden sisältöä tai odotettua julkaisuajankohtaa ei ole täsmennetty. Ministeri kehotti molempien aloitteiden pikaiseen täytäntöönpanoon.

Ministeri kehotti myös NCPCR:ää käsittelemään saapuneita valituksia "herkällä, vastuullisella ja nopealla tavalla" ja tarjoamaan kaikkea mahdollista tukea valittajille. Lisäksi annettiin hallinnollinen määräys selvittää kaikki avoimet tiedostot vuoden 2026 loppuun mennessä.

Ministerin kehotus tulee kuukausien tutkinnan jälkeen alustoista lapsiturvallisuuteen liittyen. NCPCR on aiemmin tutkinut Metaa ja vaatinut Intian viranomaisia puuttumaan Instagram-mainoksiin, joihin on yhdistetty CSEAM-materiaalia. Lisäksi viranomaiset ovat vaatineet suuria sosiaalisen median alustoja ottamaan käyttöön toimenpiteitä, kuten huoltajan suostumuksen alaikäisille ja käyttäjien henkilöllisyyden varmennuksen.