L'outil Muse Image de Meta crée des images IA à partir de photos Instagram publiques, suscitant des inquiétudes
Le nouvel outil IA de Meta, Muse Image, génère par défaut des images à partir de photos Instagram publiques, déclenchant des critiques concernant le consentement des utilisateurs et un potentiel de mauvaise utilisation.
Meta a lancé un nouvel outil d'intelligence artificielle, Muse Image, qui génère des images créées par IA à partir de photos Instagram publiques. L'outil utilise par défaut le contenu des comptes publics sans notification explicite ni consentement de l'utilisateur, ce qui a immédiatement suscité des critiques.
Muse Image, le premier modèle d'image des Meta Superintelligence Labs, est accessible via l'application Meta AI, le web, WhatsApp et Instagram Stories, alimentant plus de 30 nouveaux effets. Bien qu'actuellement disponible uniquement pour les utilisateurs aux États-Unis, Meta a déclaré son intention de l'étendre à Facebook et Messenger.
L'activation par défaut de l'outil pour les comptes publics a déclenché une controverse importante. Les critiques craignent que Muse Image ne facilite la création d'images altérées sans consentement. L'organisation à but non lucratif Foxglove a qualifié l'outil de "recette évidente pour le désastre", citant les préjudices causés par des images modifiées par IA sans consentement. Privacy International a déclaré qu'il s'agit "du dernier signe que les entreprises d'IA considèrent les images et les données des personnes comme des matières premières à exploiter."
Meta affirme que toutes les sorties porteront un filigrane invisible, Content Seal, indiquant la génération par IA. Cependant, les critiques soutiennent que cela ne résout pas le problème fondamental du consentement ni n'empêche la création de contenus préjudiciables. Les préoccupations font écho à des problèmes antérieurs avec les produits de Meta, notamment son processus d'examen publicitaire et les implications pour la vie privée de ses lunettes IA.