Apple uppdaterar App Store-regler mot AI-appar som skapar intima bilder

Apple har skärpt sina App Store-regler för att uttryckligen förbjuda så kallade "nudify"-appar som använder artificiell intelligens (AI) för att skapa intima bilder av individer utan deras samtycke. Detta drag kommer efter en period av ökad granskning kring spridningen av icke-samtyckesbaserade AI-genererade bilder.

Regelförändringarna följer på betydande kritik mot Apple efter att användare av X (tidigare Twitter) använde AI-verktyget Grok tidigare i år för att skapa icke-samtyckesbaserade, sexualiserade deepfakes, inklusive av minderåriga. Apple hotade att dra tillbaka Grok från App Store, trots att de inte omedelbart gjorde det.

Vid Apples WWDC-konferens i juni krävde demonstranter att Apple skulle "ta bort Grok, X och all nudify-teknologi från App Store". I juli uppmanade en åklagare i San Francisco Apple att ta bort 13 "nudify"-appar, vilka påstods bryta mot integritet och sprida skadligt innehåll.

De nya reglerna syftar till att förhindra att liknande applikationer når App Store och att skydda användarnas privatliv från digitalt utnyttjande. Apple har agerat efter flera rapporter och anklagelser gällande hur AI-verktyg kan möjliggöra skapandet av otillåtet och skadligt innehåll.