Medianama: Digitaalisen mainonnan mallit edistävät haitallista sisältöä

Intialainen Medianama-julkaisu on esittänyt kriittisen analyysin sosiaalisen median alustojen liiketoimintamalleista ja niiden yhteydestä haitallisen sisällön leviämiseen.

BBC:n tutkinta Intiassa paljasti, että Instagram myi mainoksia, jotka sisälsivät lapsiin kohdistuvaa seksuaalista hyväksikäyttöä kuvaavaa materiaalia (CSAM). Vaikka Instagram alun perin väitti, ettei mainokset rikkoneet sen yhteisöohjeita, yhtiö myöhemmin tarkensi nollatoleranssipolitiikkaansa CSAM:ia kohtaan. Medianama toteaa, että hallituksen toimet, kuten Meta Platformsille (Instagramin emoyhtiö) annettu huomautus, keskittyvät sisällön moderointiin tunnustamatta mainosvetoisten liiketoimintamallien taustalla olevia taloudellisia kannustimia.

Sosiaalisen median alustat toimivat monipuolisilla markkinoilla, joilla käyttäjille tarjotaan ilmaista palvelua, ja tulot muodostuvat mainosten myynnistä. Meta saa noin 97 % ja Google noin 79 % tuloistaan digitaalisesta mainonnasta. Nämä mallit perustuvat laajaan tiedonkeruuseen ja personointiin, ja ne pyrkivät maksimoimaan käyttäjien sitoutumisen.

Tutkimusten mukaan myrkyllinen ja valheellinen sisältö on usein sitouttavampaa, ja algoritmit on suunniteltu maksimoimaan käyttäjien aika alustalla. Medianama huomauttaa, että vaikka yritykset ovat yrittäneet muokata algoritmejaan suosimaan monipuolisempaa sisältöä, nämä muutokset on usein peruttu, koska ne ovat vähentäneet käyttäjien sitoutumista. Tämä luo kannustimia haitallisen sisällön vahvistamiselle.

Yhtiö kritisoi myös Intian lainsäädäntöä, erityisesti niin kutsuttua "safe harbour" -periaatetta, joka suojaa välittäjiä kolmansien osapuolien sisällöstä. Medianaman mukaan mainosten sisältöä tulisi arvioida eri tavalla kuin käyttäjien luomaa sisältöä, sillä mainokset käyvät läpi tarkastusprosessin. Yhtiö katsoo, että pelkkä sisällön moderointi ei riitä ratkaisemaan digitaalisen turvallisuuden ongelmia, vaan myös taustalla olevia rakenteellisia epätasapainoja on käsiteltävä.