Lapsen oikeuksien komissio kutsuu Googlen tapaamiseen tekoälysovellusten vuoksi

Intian lapsen oikeuksien suojelun kansallinen komissio (NCPCR) on kutsunut Googlen tapaamiseen tämän kuun lopulla. Syynä ovat Play Kaupasta löytyvät tekoälysovellukset, jotka luovat intiimejä videoita käyttäen todellisten ihmisten valokuvia ilman heidän suostumustaan.

Joissakin sovelluksissa on ollut jopa 3-vuotiaille sopiviksi merkittyjä ikäluokituksia. NCPCR:n jäsen-sihteeri Sanjeev Sharma ilmoitti, että komissio julkaisee joulukuuhun mennessä lapsiturvallisuusohjeet sosiaalisen median, pelien ja tekoälyalustojen käyttöön.

Nämä tekoälysovellukset, joita kutsutaan nimellä 'AI kiss and hug' -sovellukset, antavat käyttäjien ladata kuvia, joista tekoäly luo halaus- tai suudelmatehtäviä esittäviä videoita. Jotkut sovellukset ovat tarjonneet mahdollisuutta animoida jopa kuolleiden henkilöiden valokuvia. Alkuvuoden 2026 tutkimukset paljastivat kymmeniä tällaisia sovelluksia Google Play -kaupassa Intiassa, joista monilla oli yli miljoona latausta.

Sovellusten kuvauksissa ei ole merkintää tekoälyn käytöstä, ja vähintään yhden sovelluksen tietosuojaselosteessa todettiin, että käyttäjien valokuvia ja tietoja voidaan jakaa kolmansille osapuolille. Vaikka Google on poistanut joitakin sovelluksia, toiset, kuten 'AI Kiss & Hug Video Maker', olivat edelleen saatavilla yli 5 000 latauksella ja 3+ ikäluokituksella lokakuussa 2026.

Intian uudet IT-säännökset vaativat synteettisesti luodun sisällön merkitsemistä, mutta niiden soveltuminen pelkästään sisältöä generoiviin sovelluksiin on epäselvää. NCPCR pyrkii nopeuttamaan lapsiturvallisuusohjeiden julkaisua lainsäädännön sijaan nopeuden vuoksi. Komissio kehittää myös tekoälytyökalua lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaalin havaitsemiseksi.