Apple met à jour les règles de l'App Store contre les applications d'IA générant des images intimes

Apple a renforcé ses règles de l'App Store afin d'interdire explicitement les applications dites "nudify" basées sur l'intelligence artificielle (IA) qui génèrent des images intimes non consensuelles d'individus. Cette mise à jour répond aux préoccupations croissantes concernant l'utilisation abusive de l'IA pour créer des deepfakes non autorisés.

Les changements de règles font suite à des critiques considérables adressées à Apple plus tôt cette année, lorsque des utilisateurs de X ont utilisé l'IA Grok pour créer des deepfakes non consensuels et sexualisés, y compris ceux de mineurs. Bien qu'Apple n'ait pas immédiatement supprimé X ou Grok de sa plateforme, la société a informé les sénateurs qu'elle avait menacé de le faire.

Des manifestations ont eu lieu lors de l'événement WWDC d'Apple en juin, où des manifestants ont demandé à l'entreprise de "retirer Grok, X et toute technologie nudify de l'App Store". En juillet, un procureur de San Francisco a ordonné à Apple de retirer 13 applications "nudify", qui auraient violé la vie privée et diffusé du contenu nuisible.

Ces nouvelles directives visent à empêcher la disponibilité de telles applications sur l'App Store et à renforcer les protections de la vie privée des utilisateurs contre l'exploitation numérique. La mesure d'Apple intervient après des pressions publiques et des enquêtes juridiques concernant la prolifération d'outils d'IA capables de générer du contenu inapproprié sans consentement.