Meta tog bort AI-genererat skadligt material från annonser med fördröjning
Meta tog efter flera dagar bort annonser på Facebook och Instagram som innehöll AI-genererat sexuellt material av barn, trots att vissa bilder föreställde verkliga barn.
Meta Platforms har efter en avsevärd fördröjning tagit bort annonser på Facebook och Instagram som innehöll AI-genererat sexuellt material som utnyttjar barn (CSAM). En undersökning som publicerades på tisdagen av Tech Transparency Project (TTP) rapporterade att Meta misslyckades med att upptäcka 332 annonser med CSAM under innevarande år.
Majoriteten av annonserna marknadsförde AI-appar tillverkade i Kina. Många av dessa annonser gällde så kallade "nudify"-appar, vilka underlättar för kriminella att använda AI för att digitalt manipulera bilder på barn.
TTP kunde koppla flera av CSAM-annonserna till bilder av verkliga barn som tidigare publicerats online. Sådant material bryter mot federala lagar mot barnpornografi, då USA:s justitiedepartement klargjort att AI-genererat CSAM är lika skadligt som traditionellt CSAM.
Undersökningen rapporterade bland annat hur en bild på ett barn tillhörande en europeisk kungafamilj animerades till en video som visade ett "grafiskt sexuellt övergrepp". En annan annons förvandlade en bild på en 14-årig Instagram-influencer till en video som visade oralsex. Ett tredje fall gällde bilder på en förpubertal flicka som förvandlades till en video där hon ser skräckslagen ut medan hon blir utsatt för sexuella övergrepp av en vuxen man.