Meta setzt KI-Werkzeuge zur Erkennung von Anzeigen für Kindesmissbrauch ein

Meta hat neue Werkzeuge auf Basis künstlicher Intelligenz (KI) implementiert, um Werbeanzeigen zu erkennen, die Nutzer heimlich zu Material mit sexuellem Kindesmissbrauch (CSAM) auf externen Plattformen leiten. Diese Maßnahme folgt auf kritische Berichte, nachdem Untersuchungen aufdeckten, dass solche Anzeigen auf Instagram in Indien vorhanden waren.

Laut Angaben des Unternehmens hat Meta zwischen Januar und Juni 2026 5,3 Millionen Inhalte im Zusammenhang mit sexuellem Kindesmissbrauch auf Facebook und Instagram in Indien bearbeitet. Es wurde angegeben, dass über 98 % dieses Materials identifiziert wurden, bevor Nutzer es melden konnten. Weltweit bearbeitete Meta im gleichen Zeitraum 33,2 Millionen ähnliche Inhalte, wobei Indien einen Anteil von etwa 16 % ausmachte.

Die neuen Maßnahmen umfassen den Einsatz großer Sprachmodelle (LLMs) zur Erkennung von „Signposting“ – scheinbar harmlosen Anzeigeninhalten, die vermutlich zu illegalen Materialien außerhalb der Plattformen führen. Meta gibt zudem an, nun zu prüfen, wohin Anzeigen führen, KI-gestützte Überprüfungen bestehender Anzeigen durchzuführen, einen KI-Agenten zur Prüfung der eigenen Abwehrmaßnahmen einzusetzen und Systeme zur Erkennung von Wiederholungstätern zu verstärken.

Diese Entwicklung geschieht nach investigativen Berichten und Maßnahmen indischer Behörden. Eine BBC-Untersuchung im Juli deckte Instagram-Anzeigen auf, die CSAM bewarben. Indische Ministerien, darunter das Ministerium für Elektronik und Informationstechnologie (MeitY) und die Nationale Kommission zum Schutz von Kinderrechten (NCPCR), hatten Meta zuvor vorgeladen und die Entfernung solcher Inhalte angeordnet.

Meta hat angekündigt, Fälle, die Kinderschutz betreffen, künftig direkt an das Nationale Cyberkriminalitäts-Portal Indiens zu melden, das vom Indian Cybercrime Coordination Centre (I4C) verwaltet wird, um die Zusammenarbeit mit den örtlichen Strafverfolgungsbehörden zu optimieren.