Apple poisti 19 sovellusta deepfake-sisällön vuoksi
Apple on poistanut sovelluskaupastaan 19 sovellusta, joiden havaittiin kätkevän seksuaalista väkivaltaa sisältäviä deepfake-toimintoja.
Apple poisti 19 sovellusta App Storesta sen jälkeen, kun tutkimukset paljastivat niiden kätkevän haitallisia toimintoja tavallisten palveluiden, kuten lemmikkikuvien ja kielikoulutuksen, varjolla. Sovellukset käyttivät teknologiaa, joka muutti käyttöliittymän vastaamaan käyttäjän sijaintia ja kieltä, mikä mahdollisti valvonnan välttämisen.
Tutkijoiden mukaan sovellusten kehittäjät käyttivät niin kutsuttua ”shell-swapping”-menetelmää, jossa sovelluksen sisältöä päivitettiin vasta sovelluskaupan hyväksymisprosessin jälkeen. Haittaohjelmaverkosto käytti Facebookin ja Instagramin mainoksia ohjaamaan liikennettä sovelluksiin, jotka sisälsivät tekoälyllä luotua seksuaaliväkivaltaista materiaalia.
Google on poistanut samankaltaisia sovelluksia Google Play -kaupasta, joista osa oli suunnattu kaikille ikäryhmille ja ladattu yli 350 000 kertaa. Meta on puolestaan sulkenut yli 11 000 mainostiliä ja kieltänyt sovellusten mainostamisen alustoillaan.