Données de discussion IA d'Anthropic trouvées publiquement sur Google

Un nombre non confirmé de conversations partagées et d'"Artifacts" du service d'IA Claude d'Anthropic ont été découverts comme étant publiquement consultables sur Google. Le problème a été mis en lumière ce week-end lorsque des utilisateurs de Reddit ont découvert que des requêtes de recherche spécifiques révélaient une longue liste de conversations partagées, incluant apparemment des informations sensibles telles que des dossiers médicaux et des documents internes d'entreprise.

Le problème semble provenir de la fonctionnalité "Partager la conversation" de Claude. Cette fonction permet aux utilisateurs de générer des liens qui accordent un accès de visualisation à une conversation ou un projet à toute personne possédant l'URL fournie. Bien que l'interface de Claude avertisse que "toute personne possédant le lien peut voir", les utilisateurs semblent avoir interprété cela comme une intention de partage avec un groupe limité, et non avec l'ensemble d'Internet. Des fonctionnalités similaires sur des plateformes comme Google Docs n'indexent généralement pas les documents partagés publiquement.

La société d'IA Anthropic a commenté l'affaire, déclarant que les liens partagés n'apparaissent dans les résultats de recherche que lorsqu'ils ont été publiés sur des plateformes accessibles aux moteurs de recherche, tels que des forums ou des publications sur les réseaux sociaux. Selon l'entreprise, les liens envoyés en privé à des individus ne se retrouvent pas dans les résultats de recherche. Cela suggère qu'une partie de la responsabilité de l'exposition des données pourrait incomber aux utilisateurs qui ont partagé des liens publiquement sans tenir pleinement compte de leur potentiel d'indexation.

L'incident souligne les risques de sécurité liés à l'utilisation des services d'IA et la nécessité de directives plus claires pour les utilisateurs sur le fonctionnement des liens partageables et la manière de protéger les informations sensibles. L'étendue exacte de l'exposition, en termes de nombre d'utilisateurs et de données affectées, reste floue, et Anthropic n'a pas fourni de détails spécifiques sur l'ampleur du problème ni sur les mesures correctives prises.