Meta visade annonser för app som lovade deepfakes av kvinnliga politiker

Meta-plattformar visade nyligen annonser för en applikation för artificiell intelligens vid namn Kromix, som påstås ha tillåtit användare att skapa deepfake-sexinnehåll, inklusive framställningar av kvinnliga politiker. Denna incident belyser Metas pågående utmaningar med att förhindra att annonser för verktyg som skapar icke-samtyckt intimt bildmaterial visas på dess tjänster.

En annons, som beskrivits av WIRED, marknadsförde Kromix som en "AI-bildstylist" med "inga restriktioner" och antydde att det var "den AI som män faktiskt använder". Annonsen visade en person som liknade en framstående kvinnlig amerikansk politiker i scenarier som övergick till explicit material, ackompanjerat av suggestiva bildtexter.

Kromix-applikationen, som fanns tillgänglig i Apples App Store före WIREDs förfrågan, erbjöd påstått funktioner som tillät betalande användare att ladda upp bilder för användning i olika scenarier, inklusive sådana som beskrivs som "sovrumsvåldtäkt". Ytterligare reklammaterial antydde att appen innehöll AI-genererad pornografi.

Försök att nå kontaktpersoner för Kromix-appen för kommentarer misslyckades. Förekomsten av sådana annonser på Metas plattform väcker frågor om effektiviteten i riktlinjer för innehållsmoderering när det gäller sexuellt explicit och potentiellt skadligt genererat material.