Apple entfernt 19 Apps wegen versteckter Deepfake-Funktionen

Apple hat 19 Apps aus seinem Store verbannt, nachdem bekannt wurde, dass diese unter dem Vorwand von alltäglichen Diensten wie Haustierfotografie oder Sprachtraining gefährliche Funktionen tarnten. Die betroffenen Anwendungen nutzten dynamische Inhalte, die je nach Standort und Sprache des Nutzers variierten, um die Überprüfungsprozesse der Plattform zu umgehen.

Sicherheitsforscher stellten fest, dass die Entwickler nach der Freigabe der App das bereitgestellte Web-Inhalt-Material austauschten. Das Netzwerk nutzte gezielt Facebook- und Instagram-Werbung, um Nutzer zu den Anwendungen zu leiten. Dabei wurden teilweise sogar KI-generierte Darstellungen von sexuellem Kindesmissbrauch zu Werbezwecken verwendet.

Auch Google hat inzwischen einen Großteil der identifizierten Apps aus dem Google Play Store entfernt, die dort teilweise als für alle Altersgruppen geeignet gelistet waren und über 350.000 Downloads verzeichneten. Meta gab an, gegen 11.600 Werbekonten vorgegangen zu sein und 209 Apps von der Anzeigenschaltung auf seinen Plattformen ausgeschlossen zu haben.