Anthropic a retiré un traqueur secret pour Claude opérant en Chine

La société d'IA Anthropic a supprimé un traqueur secret intégré à son service Claude Code après qu'un chercheur en sécurité a révélé son fonctionnement caché, ciblant les utilisateurs en Chine. Cette découverte a suscité des critiques pour une "violation grave de la confiance des utilisateurs".

Le code, découvert par le développeur web "Thereallo", utilisait la "stéganographie de prompt" pour collecter des données sur le fuseau horaire des utilisateurs, leur proxy, et leurs liens potentiels avec des laboratoires d'IA chinois. Anthropic avait déjà accusé ces laboratoires de se livrer à des attaques par distillation.

L'ingénieur d'Anthropic, Thariq Shihipar, a confirmé sur X que le traqueur avait été ajouté en tant qu'"expérience" en mars. Selon Shihipar, son objectif était d'empêcher les abus par des revendeurs non autorisés et de protéger contre la distillation. Le Washington Post a noté que des détaillants non autorisés vendaient l'accès à des modèles gratuits, ainsi que des abonnements plus coûteux à des prix considérablement réduits.

L'incident a soulevé des préoccupations concernant la confidentialité des données et la transparence des services d'IA, en particulier compte tenu des engagements publics antérieurs d'Anthropic en matière de minimisation des données et de protection de la vie privée des utilisateurs.