Australische Regulierungsbehörde: Große Lücken bei der Erkennung von Kindesausbeutung durch Plattformen
Australiens eSafety Commissioner hat erhebliche Mängel bei der Fähigkeit großer Online-Plattformen zur Erkennung von sexuellem Kindesmissbrauch und Erpressung festgestellt. Die Behörde kritisiert die Abhängigkeit von Nutzerberichten gegenüber proaktiver Identifizierung.
Australiens eSafety Commissioner hat erhebliche Mängel bei der Fähigkeit großer Online-Plattformen zur Erkennung von sexuellem Kindesmissbrauch und Erpressung festgestellt. In ihrem dritten regelmäßigen Transparenzbericht erklärte die Regulierungsbehörde, dass die Plattformen weiterhin stark auf Nutzerberichte angewiesen sind, anstatt schädliche Aktivitäten proaktiv zu identifizieren und zu verhindern.
Der Bericht deckt die zweite Hälfte des Jahres 2025 ab und bewertet, wie Apple, Discord, Google, Meta, Microsoft, Snap und WhatsApp die australischen grundlegenden Sicherheitserwartungen für Online-Aktivitäten (BOSE) erfüllen. Insbesondere wurden die Maßnahmen der Anbieter zur Verhinderung von sexuellem Kindesmissbrauch, Grooming und Ausbeutung, die sich sowohl an Kinder als auch an Erwachsene richten, untersucht.
Zu den wesentlichen Defiziten gehört die begrenzte proaktive Erkennung, insbesondere bei neu erstelltem Material, das sexuellen Kindesmissbrauch darstellt. Auch der Schutz während Videoanrufen wurde als schwach eingestuft, wobei nur Microsoft Werkzeuge zur Störung in Echtzeit einsetzte. Verbesserungen sind auch bei der Erkennung und Verhinderung von Grooming erforderlich.
Der Bericht räumte ein, dass die Ende-zu-Ende-Verschlüsselung die proaktive Erkennung erschwert, betonte jedoch die Notwendigkeit einer kontinuierlichen Entwicklung neuer Technologien und mehrstufiger Ansätze zur Identifizierung illegaler Aktivitäten. Obwohl einige Fortschritte erzielt wurden, wie z. B. Investitionen von Unternehmen in verbesserte Erkennungswerkzeuge, bestehen in der gesamten Branche erhebliche Sicherheitslücken.
Im Berichtszeitraum erhielt die Regulierungsbehörde 2.206 Beschwerden wegen sexueller Erpressung. Die am häufigsten genannten Plattformen waren Instagram, WhatsApp und Telegram. Bei Erwachsenen waren WhatsApp, Telegram und Instagram die häufigsten, während Kinder am häufigsten Vorfälle auf Telegram, iMessage und Snapchat meldeten.