Apple verschärft App-Store-Richtlinien gegen versteckte KI-Funktionen
Apple aktualisiert die App-Store-Richtlinien, um Anwendungen zu blockieren, die KI-basierte Nudifizierungstools nach der Prüfung freischalten.
Apple hat seine App-Store-Richtlinien aktualisiert, um gezielt gegen Anwendungen vorzugehen, die schädliche Funktionen wie die KI-gestützte Nudifizierung während des Überprüfungsprozesses verbergen. Der neue Abschnitt 2.5.19 untersagt ausdrücklich die Falschdarstellung des App-Zwecks; Entwickler, die nach der Zulassung unzulässige Funktionen integrieren, müssen mit der Entfernung aus dem Programm rechnen.
Zusätzlich wurden die Vorgaben für nutzergenerierte Inhalte verschärft. Entwickler sind nun verpflichtet, Mechanismen zur Meldung unangemessener Inhalte sowie Funktionen zur Blockierung missbräuchlicher Konten zu implementieren. Die regulatorischen Anpassungen folgen auf öffentlichen Druck durch Interessengruppen und Behörden bezüglich der Verbreitung von nicht-einvernehmlichen Deepfake-Inhalten.
Untersuchungen des Tech Transparency Project hatten zuvor offengelegt, dass zahlreiche Apps, die zur Erstellung sexueller Bilder genutzt werden können, trotz bestehender Verbote im App Store verfügbar waren. Auch der San Francisco City Attorney David Chiu hatte Apple und Google dazu aufgefordert, solche Anwendungen zu entfernen, da sie unter anderem von Minderjährigen genutzt werden konnten. Apple betont, dass die neuen Richtlinien bestehende Sicherheitsmaßnahmen präzisieren.