Meta entfernte KI-generiertes Kindesmissbrauchsmaterial aus Anzeigen verzögert

Meta Platforms hat nach erheblicher Verzögerung Anzeigen mit KI-generiertem sexuellem Kindesmissbrauchsmaterial (CSAM) von Facebook und Instagram entfernt. Eine am Dienstag veröffentlichte Untersuchung des Tech Transparency Project (TTP) ergab, dass Meta in diesem Jahr 332 Anzeigen mit CSAM nicht erkannt hat.

Die "überwältigende Mehrheit" dieser Anzeigen bewarb in China hergestellte KI-Anwendungen. Viele davon bewarben sogenannte "Nudify"-Apps, die die digitale Veränderung von Kinderbildern in sexuell explizites Material erleichtern.

TTP ordnete "mehrere CSAM-Anzeigen Fotos von echten Kindern zu, die online erschienen waren". Solches Material verstößt gegen bundesstaatliche Gesetze gegen Kinderpornografie, da das US-Justizministerium klargestellt hat, dass KI-generiertes CSAM genauso schädlich ist wie traditionelles CSAM.

Die Untersuchung ergab, dass ein Bild eines jungen Mitglieds einer europäischen Königsfamilie zu einem Video animiert wurde, das einen "grafischen Sexakt" darstellt. Eine andere Anzeige veränderte ein Bild einer 14-jährigen Instagram-Influencerin in ein Video, das sie bei Oralsex zeigte. Ein dritter Fall betraf Bilder eines Vorschulmädchens, die zu einem Video umgestaltet wurden, das sie verängstigt zeigte, während sie von einem erwachsenen Mann belästigt wurde.