Meta a supprimé tardivement du contenu d'exploitation d'enfants généré par IA des publicités

Meta Platforms a retiré des publicités contenant du matériel d'abus sexuels sur enfants généré par intelligence artificielle (CSAM) de Facebook et Instagram après un délai important. Une enquête publiée mardi par le Tech Transparency Project (TTP) a révélé que Meta n'avait pas détecté 332 publicités contenant du CSAM cette année.

La "très grande majorité" de ces publicités promouvait des applications d'IA fabriquées en Chine. Beaucoup faisaient la promotion d'applications dites "nudify", qui facilitent la modification numérique d'images d'enfants en contenu sexuellement explicite.

TTP a associé "plusieurs publicités de CSAM à des photos de vrais enfants apparues en ligne". Ce type de matériel viole les lois fédérales sur la pornographie enfantine, le ministère de la Justice américain ayant précisé que le CSAM généré par IA est aussi nuisible que le CSAM traditionnel.

L'enquête a révélé qu'une image d'un jeune membre d'une famille royale européenne a été animée en une vidéo décrivant un "acte sexuel graphique". Une autre publicité a modifié l'image d'une influenceuse Instagram de 14 ans en une vidéo d'elle pratiquant une fellation. Un troisième cas concernait des images d'une fillette en âge prépubère qui ont été transformées en vidéo la montrant effrayée tout en étant agressée par un homme adulte.