Metas AI-kontrollerade kontoblockeringar oroar företag

Meta, det globala teknikföretaget, ökar markant användningen av artificiell intelligens (AI) för moderering av användarkonton. Företaget siktar på att överföra över 90 procent av sina granskningsuppgifter till stora språkmodeller vid slutet av 2026. Meta hävdar att deras nya AI-system gör 13 procent färre misstag och upptäcker 10 procent fler överträdelser än mänskliga granskare.

Metas oberoende granskningsråd har dock kritiserat företagets nuvarande system, särskilt i fall där konton har stängts av felaktigt. Enligt rapporten har användare liten möjlighet att påverka beslutet eller förstå dess grunder, särskilt när ingen mänsklig översyn har använts ens vid hantering av överklaganden.

Flera användare vars konton felaktigt stängts av har rapporterat att deras överklaganden ofta granskades av samma AI som fattade det ursprungliga beslutet. Mänsklig inblandning har vanligtvis endast uppnåtts genom att kontakta Metas pressteam, inte genom officiella överklagandeprocesser.

Denna utveckling är en betydande källa till oro för företag som är beroende av Metas plattformar, såsom Instagram-butiker eller Facebook-sidor. Automatiserat beslutsfattande utan tydlig mänsklig översyn kan leda till oväntade och skadliga situationer för företagens verksamhet.

Problemet sträcker sig även till företag som själva utvecklar AI-lösningar för kundsupport, återbetalningar eller kontobaserade beslut. De kan möta liknande designutmaningar som Meta, om den mänskliga rollen i beslutsfattandet inte beaktas tillräckligt.