Australisk tillsynsmyndighet: Stora brister hos plattformar för att upptäcka sexuella övergrepp mot barn

Australiens tillsynsmyndighet för internetsäkerhet, eSafety Commissioner, har identifierat betydande luckor i stora onlineplattformars förmåga att upptäcka sexuella övergrepp och utnyttjande av barn. I sin tredje regelbundna transparensrapport konstaterar myndigheten att plattformarna förlitar sig för mycket på användaranmälningar istället för att proaktivt söka och förhindra skadligt innehåll.

Rapporten täcker den andra halvan av 2025 och utvärderar hur Apple, Discord, Google, Meta, Microsoft, Snap och WhatsApp följer Australiens grundläggande säkerhetskrav för onlineverksamhet (BOSE). Särskild granskning gjordes av tjänsteleverantörernas åtgärder för att förebygga sexuella övergrepp, grooming och utnyttjande riktat mot både barn och vuxna.

Centrala brister inkluderar begränsad proaktiv identifiering, särskilt när det gäller nytt material som visar sexuella övergrepp mot barn. Skyddet under videosamtal identifierades också som svagt, där endast Microsoft använde verktyg för att identifiera incidenter i realtid. Även identifiering och förebyggande av grooming behöver förbättras.

Rapporten medger att end-to-end-kryptering försvårar proaktiv identifiering, men betonar behovet av att kontinuerligt utveckla ny teknik och flerlagerstrategier för att upptäcka olagligt innehåll. Även om vissa framsteg har gjorts, som företagens investeringar i förbättrade upptäcktverktyg, kvarstår betydande säkerhetsluckor inom branschen.

Under rapportperioden tog myndigheten emot 2 206 anmälningar om sexuellt utnyttjande. De vanligaste plattformarna som nämndes i anmälningarna var Instagram, WhatsApp och Telegram. För vuxna var de vanligaste plattformarna WhatsApp, Telegram och Instagram, medan barn oftast rapporterade incidenter på Telegram, iMessage och Snapchat.