Medianama: Digitala annonsmodeller driver skadligt innehåll

Indiska publikationen Medianama har presenterat en kritisk analys av sociala medieplattformars affärsmodeller och deras koppling till spridningen av skadligt innehåll.

En utredning av BBC i Indien avslöjade att Instagram sålde annonser som innehöll material relaterat till sexuella övergrepp mot barn (CSAM). Även om Instagram initialt hävdade att annonserna inte bröt mot deras riktlinjer, preciserade företaget senare sin noll-toleranspolicy mot CSAM. Medianama konstaterar att regeringens åtgärder, som en anmärkning till Meta Platforms (Instagrams moderbolag), fokuserar på innehållsmoderering utan att erkänna de ekonomiska incitamenten bakom de annonsdrivna affärsmodellerna.

Sociala medieplattformar fungerar på mångsidiga marknader där användarna erbjuds gratis tjänster, och intäkterna genereras genom annonsförsäljning. Meta får cirka 97 % och Google cirka 79 % av sina intäkter från digital annonsering. Dessa modeller bygger på omfattande datainsamling och personalisering, och syftar till att maximera användarnas engagemang.

Forskning tyder på att giftigt och falskt innehåll ofta är mer engagerande, och algoritmer är utformade för att maximera användarnas tid på plattformen. Medianama påpekar att även om försök har gjorts att modifiera algoritmer för att främja mer diversifierat innehåll, har dessa ändringar ofta rullats tillbaka eftersom de minskade användarnas engagemang. Detta skapar incitament för förstärkning av skadligt innehåll.

Publikationen kritiserar också Indiens lagstiftning, särskilt den så kallade "safe harbour"-principen som skyddar mellanhänder från tredjepartsinnehåll. Enligt Medianama bör innehållet i annonser bedömas annorlunda än användargenererat innehåll, eftersom annonser genomgår en granskningsprocess. Publikationen menar att enbart innehållsmoderering inte räcker för att lösa problemen med digital säkerhet, och att även de underliggande strukturella obalanserna måste adresseras.