Meta ottaa käyttöön tekoälytyökaluja lapsiin kohdistuvan hyväksikäytön mainosten havaitsemiseksi

Meta on tehostanut ponnistelujaan lapsiin kohdistuvan seksuaalisen hyväksikäytön materiaalin (CSAM) leviämisen estämiseksi alustoillaan ottamalla käyttöön uusia tekoälyyn (AI) perustuvia työkaluja. Nämä työkalut on suunniteltu tunnistamaan mainoksia, jotka salakavalasti ohjaavat käyttäjiä muilla alustoilla sijaitsevaan haitalliseen materiaaliin.

Yhtiön mukaan Intiassa Facebookin ja Instagramin kautta poistettiin tammi-kesäkuun 2026 aikana 5,3 miljoonaa CSAM-sisältöä. Näistä yli 98 % löydettiin ennen kuin käyttäjät ehtivät ilmoittaa niistä. Globaalisti Meta poisti vastaavalla ajanjaksolla 33,2 miljoonaa vastaavaa sisältöä, Intian osuuden ollessa noin 16 %.

Uudet toimenpiteet sisältävät suurten kielimallien (LLM) hyödyntämistä "viestien" havaitsemiseksi, jotka voivat näyttää vaarattomilta mutta ohjata laittomaan toimintaan. Lisäksi Meta tarkistaa nykyään mainosten kohdesivustoja, suorittaa tekoälypohjaisia tarkistuksia olemassa oleville mainoksille, käyttää tekoälyagenttia omien puolustuskeinojensa testaamiseen sekä parantaa toistuvasti sääntöjä rikkoneiden käyttäjien tunnistamista.

Tämä kehitys tapahtuu sen jälkeen, kun useat tutkimukset ja Intian viranomaiset ovat kiinnittäneet huomiota alustalla esiintyvään haitalliseen sisältöön. BBC:n heinäkuussa julkaistu tutkinta paljasti Instagramissa esiintyneitä mainoksia, jotka mainostivat CSAM-materiaalia. Intian viranomaiset, mukaan lukien elektroniikka- ja tietotekniikkaministeriö (MeitY) sekä lasten oikeuksien puolustuslautakunta (NCPCR), ovat vaatineet Metalta toimenpiteitä ja selityksiä.

Meta on ilmoittanut raportoivansa lapsiin kohdistuviin turvallisuustapauksiin liittyvät ilmoitukset jatkossa suoraan Intian kyberrikollisuuden torjuntakeskuksen (I4C) ylläpitämälle kansalliselle kyberrikollisuuden raportointiportaalille. Yritys pyrkii tällä tavoin parantamaan yhteistyötään paikallisten viranomaisten kanssa.