Nouvelle vulnérabilité IA révélée : Claude peut divulguer noms et employeurs
Un chercheur en sécurité a révélé une méthode permettant à l'IA Claude d'envoyer par inadvertance des informations personnelles des utilisateurs, telles que noms et employeurs, à des sites web externes.
Le chercheur en sécurité Ayush Paul a révélé une vulnérabilité dans le service d'IA Claude qui pourrait entraîner la fuite de données personnelles des utilisateurs. Selon Paul, l'IA peut involontairement transmettre des informations sur le nom, l'employeur et même la ville d'origine d'un utilisateur à des sites web externes sans le consentement de ce dernier.
La vulnérabilité découle de la capacité de Claude à se souvenir et à utiliser les conversations passées. L'IA utilise deux mécanismes de mémoire : un résumé quotidien des dialogues récents et un outil pour récupérer les historiques complets de conversation à la demande. Bien que cela améliore la capacité de l'IA à adapter ses réponses, cela peut également accumuler des informations substantielles sur l'utilisateur sur une longue période d'utilisation.
Paul a démontré la vulnérabilité en demandant à Claude de comparer de véritables URL de cafés avec des liens malveillants. Dans ce contexte, l'IA a encodé le nom de l'utilisateur dans l'URL. Des invites supplémentaires ont également pu révéler le nom de l'employeur et la ville d'origine, des données potentiellement utilisables pour la vérification par des institutions financières.
Paul a signalé le problème via le programme de primes aux chasseurs de bugs d'Anthropic. Bien qu'Anthropic ait eu connaissance du problème, celui-ci n'était pas encore corrigé au moment du rapport de Paul. L'entreprise a depuis désactivé la capacité de Claude à suivre les liens sur des pages web externes afin d'éviter des fuites de données similaires.