Apple aktualisiert App Store-Regeln gegen KI-Apps zur Erstellung intimer Bilder

Apple hat seine App Store-Regeln verschärft, um KI-gestützte sogenannte "Nudify"-Apps, die nicht-einvernehmliche intime Bilder von Personen erstellen, ausdrücklich zu verbieten. Diese Aktualisierung reagiert auf wachsende Bedenken hinsichtlich des Missbrauchs von künstlicher Intelligenz zur Erstellung unautorisierter Deepfakes.

Die Regeländerungen erfolgen nach erheblicher Kritik an Apple Anfang des Jahres, als Nutzer des Dienstes X die Grok-KI nutzten, um nicht-einvernehmliche, sexualisierte Deepfakes, auch von Minderjährigen, zu erstellen. Obwohl Apple X oder Grok nicht sofort aus seinem App Store entfernte, teilte das Unternehmen den Senatoren mit, dass es mit der Entfernung gedroht habe.

Bei Apples WWDC-Veranstaltung im Juni forderten Demonstranten das Unternehmen auf, "Grok, X und alle Nudify-Technologien aus dem App Store zu entfernen". Im Juli forderte ein Staatsanwalt aus San Francisco Apple auf, 13 "Nudify"-Apps zu entfernen, die angeblich die Privatsphäre verletzten und schädliche Inhalte verbreiteten.

Diese neuen Richtlinien zielen darauf ab, die Verfügbarkeit solcher Anwendungen im App Store zu verhindern und den Schutz der Privatsphäre von Nutzern vor digitaler Ausbeutung zu stärken. Apples Vorgehen folgt auf öffentlichen Druck und rechtliche Anfragen bezüglich der Verbreitung von KI-Werkzeugen, die die Erstellung unangemessener Inhalte ohne Zustimmung ermöglichen.