Meta-Anzeigen zeigten App mit Deepfake-Porno-Versprechen gegen Politikerinnen

Meta-Plattformen zeigten kürzlich Anzeigen für eine künstliche Intelligenz-Anwendung namens Kromix, die es Nutzern angeblich ermöglichte, Deepfake-Sexinhalte zu generieren, einschließlich Darstellungen von Politikerinnen. Dieser Vorfall verdeutlicht die anhaltenden Herausforderungen, mit denen Meta konfrontiert ist, um Anzeigen für Tools zu verhindern, die nicht-einvernehmliche intime Bilder erstellen, auf seinen Diensten.

Eine von WIRED beschriebene Anzeige bewarb Kromix als "KI-Bilderstyler" "ohne Einschränkungen" und deutete an, es sei "die KI, die Männer wirklich benutzen". Die Anzeige zeigte eine Person, die einer prominenten weiblichen US-Politikerin ähnelte, in Szenarien, die in explizites Material übergingen, begleitet von anzüglichen Bildunterschriften.

Die Kromix-Anwendung, die vor der Anfrage von WIRED im App Store von Apple verfügbar war, bot angeblich Funktionen, die es zahlenden Nutzern ermöglichten, Bilder für verschiedene Szenarien hochzuladen, darunter solche, die als "Schlafzimmervergewaltigung" beschrieben wurden. Weiteres Werbematerial deutete darauf hin, dass die App KI-generierte Pornografie enthielt.

Bemühungen, Kontaktpersonen für die Kromix-App für Kommentare zu erreichen, blieben erfolglos. Die Präsenz solcher Anzeigen auf Metas Plattform wirft Bedenken hinsichtlich der Wirksamkeit von Richtlinien zur Inhaltsmoderation bei sexuell expliziten und potenziell schädlichen generierten Medien auf.