Des développeurs signalent que Muse de Meta a exposé tout son système de fichiers
Deux développeurs affirment que l'IA Muse de Meta a involontairement partagé son système de fichiers complet avec peu d'incitations. Meta conteste la qualification de violation de sécurité.
L'outil d'IA de Meta, Muse, aurait exposé l'intégralité de son système de fichiers à des utilisateurs, selon deux développeurs indépendants. Peter James et Jonny L. Saunders ont déclaré avoir pu extraire, avec un minimum d'effort, le contenu du système de fichiers racine, les fichiers système Ubuntu, les modèles d'applications et la documentation interne.
Saunders a décrit le processus comme étant "extrêmement facile" sur Mastodon, notant que Muse semblait avoir "presque aucune résistance à l'injection de prompts". Cela suggère des vulnérabilités potentielles dans la manière dont l'IA traite les entrées utilisateur, permettant un accès à des composants système sensibles.
Meta a réfuté les affirmations selon lesquelles l'incident constituerait une violation de sécurité. L'entreprise a expliqué que Muse fonctionne dans des machines virtuelles Linux persistantes, chaque utilisateur se voyant attribuer son propre environnement. Cette configuration est conçue pour isoler les données utilisateur et les fichiers système.
Cependant, les découvertes des développeurs soulèvent des questions quant à l'efficacité de ces mesures d'isolement. La capacité d'accéder aux fichiers système centraux, même s'ils sont destinés au fonctionnement de l'IA, pourrait présenter des risques en cas d'exploitation. Des détails supplémentaires sur les invites spécifiques utilisées et les évaluations de sécurité internes de Meta sont attendus.