Anthropic avlägsnade hemlig spårningskod från Claude Code i Kina

AI-företaget Anthropic tog snabbt bort en hemlig spårningskod från sin tjänst Claude Code efter att en forskare avslöjat dess dolda användning i Kina. Enligt forskaren var detta ett "allvarligt brott mot användarnas förtroende".

Koden, som webbutvecklaren "Thereallo" upptäckte, använde sig av "prompt stegografi" för att samla in information om användarens tidszon, proxy och potentiella kopplingar till kinesiska AI-labb som Anthropic tidigare anklagat för destillationsattacker.

Anthropic-ingenjören Thariq Shihipar bekräftade på X att koden lades till i Claude Code som ett "experiment" i mars. Enligt Shihipar var syftet att förhindra missbruk från obehöriga återförsäljare och skydda mot destillation. Washington Post har rapporterat att obehöriga återförsäljare sålt tillgång till gratismodeller och sålt dyrare prenumerationer till kraftigt reducerade priser.

Händelsen väckte frågor om integritet och transparens i AI-tjänster, särskilt med tanke på Anthropic's tidigare offentliga åtaganden om att minimera datainsamling och skydda användarnas integritet.