Rapport : L'IA Muse de Meta établit des dossiers détaillés sur les utilisateurs et leurs contacts

Un nouveau rapport révèle que l'assistant IA de Meta, Muse, collecte systématiquement des informations détaillées sur ses utilisateurs et leurs contacts. Les instructions internes examinées par Time Magazine indiquent que Muse enregistre les relations sociales, les intérêts communs, les litiges et les modèles de comportement.

Muse, positionné comme un assistant personnel pour effectuer des tâches numériques, accède à des parties de la vie numérique de l'utilisateur, y compris les e-mails et Instagram. Les instructions exigent que Muse maintienne des enregistrements détaillés des utilisateurs et de leurs contacts, y compris des personnes qui n'utilisent pas Muse elles-mêmes, car des informations à leur sujet peuvent apparaître dans les conversations des autres. L'assistant mettrait à jour ces dossiers toutes les heures et serait chargé de renforcer sa relation avec l'utilisateur en identifiant les « blagues » et le contexte partagé.

Le rapport indique en outre que Muse tente de déduire les objectifs des utilisateurs, même ceux qui ne sont pas explicitement énoncés. L'assistant analyse les conversations quotidiennes et enregistre les informations jugées pertinentes pour servir l'utilisateur. Muse suit également la manière dont les utilisateurs individuels réagissent à différents types d'interactions et partage les leçons apprises avec d'autres agents Muse sous une forme anonymisée pour améliorer le produit.

Meta n'a pas contesté les conclusions du rapport. Un porte-parole de l'entreprise a déclaré à Time que Muse fonctionne sur une machine virtuelle dédiée et que les données ne sont pas partagées avec le système publicitaire de l'entreprise. Meta a également indiqué que les utilisateurs contrôlent leur Muse et peuvent lui demander d' « oublier » des informations. L'entreprise prévoit de mettre en œuvre un cryptage qui empêcherait même Meta d'accéder aux données de Muse.