Meta-mainoksissa esiteltiin sovellusta, joka lupasi deepfake-pornoa poliitikoista

Meta-alustoilla esiteltiin hiljattain Kromix-nimisen tekoälysovelluksen mainoksia, joiden kerrotaan antaneen käyttäjille mahdollisuuden luoda deepfake-pornografista sisältöä, mukaan lukien naispuolisista poliitikoista. Tapaus korostaa Metan jatkuvia haasteita estää sellaisten työkalujen mainoksia, jotka luovat ei-suostumuksellista intiimiä kuvastoa, näkymästä sen palveluissa.

Yhdessä mainoksessa, jonka WIRED kuvaili, Kromixia mainostettiin "tekoälykuvien muotoilijana" "ilman rajoituksia" ja "sellaista tekoälyä, jota miehet todella käyttävät". Mainoksessa esiintyi tunnistettavasti samankaltainen henkilö kuin merkittävä amerikkalainen naispoliitikko tilanteissa, jotka siirtyivät seksuaalissävytteiseen materiaaliin, ja sitä säestivät vihjailevat kuvatekstit.

Kromix-sovellus, joka oli saatavilla Applen App Storessa ennen WIREDin tiedustelua, tarjosi tiettävästi ominaisuuksia, joilla maksavat käyttäjät saattoivat ladata kuvia käytettäväksi erilaisissa skenaarioissa, mukaan lukien "makuuhuoneen raiskaus"-kuvaukset. Lisämateriaali viittasi siihen, että sovellus sisälsi tekoälyn luomaa pornografiaa.

Pyrkimykset tavoittaa Kromix-sovelluksen yhteyshenkilöitä kommentin saamiseksi epäonnistuivat. Tällaisten mainosten esiintyminen Metan alustalla herättää huolta sisällön moderointikäytäntöjen tehokkuudesta seksuaalisesti eksplisiittisen ja mahdollisesti haitallisen luodun median suhteen.