AI:s begränsningar i innehållsmoderering och åldersverifiering

Artificiell intelligens (AI) kan bidra till att moderera innehåll och verifiera åldrar på sociala medieplattformar, men utgör inte en fullständig lösning på dessa komplexa problem. Detta framhölls under ett seminarium arrangerat av medieplattformen Medianama.

Diskussionen belyste att plattformar i allt högre grad förlitar sig på AI-klassificerare och rekommendationssystem för att hantera innehåll. Deltagarna menade dock att dessa system har svårt att förstå kontexten och intentionen bakom innehållet. Ett exempel som gavs var en mening som kan tolkas på olika sätt beroende på samtalets sammanhang, vilket gör ren automatisk moderering otillräcklig.

Innehållsmoderering sker idag på två nivåer: automatiserad hantering och mänsklig granskning. Många plattformar använder också tekniker som "skuggblockering" för att begränsa spridningen av innehåll snarare än att helt ta bort det. AI är effektivt för att identifiera mönster och klassificera stora mängder data snabbt, men komplexa fall kräver fortfarande mänsklig expertis.

Deltagarna betonade också AI:s svårigheter med språklig asymmetri och nyanser i flerspråkiga miljöer som Indien. Även om AI kan identifiera vissa typer av skadligt innehåll, är dess resultat inte alltid deterministiska, vilket skapar utmaningar för tillsynsmyndigheter som ofta förväntar sig absolut säkerhet.