Meta verteidigt Werbeanzeigenprüfung nach Missbrauchsmaterial gegen Kinder auf Instagram
Meta räumte ein, dass sein Prüfverfahren für Werbeanzeigen "nicht jede Verletzung erkennen mag", Tage nachdem eine BBC-Untersuchung ergab, dass Instagram Anzeigen mit kinderpornografischem Material schaltete. Indische Behörden haben das Unternehmen aufgefordert, Stellung zu beziehen.
Meta Platforms hat sein Prüfverfahren für Werbeanzeigen als "robust" verteidigt und gleichzeitig eingeräumt, dass es "nicht jede Verletzung erkennen mag", wie in einem Blogbeitrag vom 7. Juli mitgeteilt wurde. Diese Erklärung folgte auf eine Untersuchung von BBC Eye, die aufdeckte, dass Instagram bezahlte Anzeigen schaltete, die kinderpornografisches Material (CSAM) in Indien förderten. Die Anzeigen verwendeten Berichten zufolge Begriffe wie "Vergewaltigungsvideo" und "Kindervideo" und leiteten zu Telegram-Kanälen weiter, auf denen das Material für umgerechnet nur 99 indische Rupien verkauft wurde.
Das Ministerium für Elektronik und Informationstechnologie (MeitY) in Indien hat Meta eine Frist von sieben Tagen gesetzt, um zu erklären, wie die Anzeigen die Prüfung bestanden haben, und hat Instagram angewiesen, alle derartigen Anzeigen und Inhalte zu deaktivieren.
Metas Prüfverfahren für Anzeigen stützt sich hauptsächlich auf automatisierte Werkzeuge, die Bilder, Videos, Text und Zielgruppeninformationen scannen. Eine menschliche Prüfung erfolgt nur, wenn die Software unsicher ist. Wenn die automatische Prüfung vertrauenswürdig ist, wird die Anzeige ohne menschliche Aufsicht veröffentlicht. Anzeigen können auch nach ihrer Veröffentlichung erneut geprüft werden.
Die BBC-Untersuchung hob Lücken im Prozess hervor, die das Schalten der Anzeigen ermöglichten. Das automatisierte System gleicht Anzeigen Berichten zufolge mit Richtlinien ab, anstatt den Inhalt zu verstehen, und die menschliche Prüfung wird nur in unsicheren Fällen ausgelöst. Die erneute Prüfung erfolgt erst, nachdem die Anzeige live geschaltet wurde. Selbst wenn automatisierte Systeme Probleme erkannten, war die menschliche Prüfung Berichten zufolge langsam oder lieferte falsche Einschätzungen. Metas eigene Werberichtlinien für den sexuellen Missbrauch von Kindern sind strenger als die allgemeinen Gemeinschaftsstandards, dennoch wurden diese Anzeigen genehmigt.
Die Angelegenheit wirft Fragen hinsichtlich der "Safe Harbor"-Bestimmungen des indischen IT Act auf, die Intermediäre von der Haftung für Inhalte Dritter befreien, wenn sie "gebührende Sorgfalt" walten lassen. Metas Rolle bei der bezahlten Verbreitung und Ausrichtung dieser Anzeigen, gepaart mit fehlerhafter menschlicher Überprüfung, erschwert die Einhaltung dieser Bestimmungen. Die indischen IT Rules 2021 befassen sich speziell mit Inhalten, die zum direkten finanziellen Vorteil übermittelt werden, als einer gesonderten Kategorie, was die Prüfung von Metas Handlungen weiter verschärft.