Anthropic entfernte geheimen Claude-Tracker, der in China operierte

Das KI-Unternehmen Anthropic hat einen geheimen Tracker aus seinem Claude Code-Dienst entfernt, nachdem ein Sicherheitsforscher dessen verdeckten Betrieb zur Überwachung von Nutzern in China aufgedeckt hatte. Die Entdeckung löste Kritik wegen eines "ernsten Vertrauensbruchs" aus.

Der vom Webentwickler "Thereallo" gefundene Code nutzte "Prompt-Steganographie", um Daten über Zeitzone, Proxy und mögliche Verbindungen zu chinesischen KI-Laboren zu sammeln, die Anthropic zuvor der Destillation beschuldigt hatte.

Anthropic-Ingenieur Thariq Shihipar bestätigte auf X, dass der Tracker im März als "Experiment" hinzugefügt wurde. Laut Shihipar sollte er Missbrauch durch unbefugte Wiederverkäufer verhindern und vor Destillation schützen. Die Washington Post berichtete, dass unbefugte Händler Zugang zu kostenlosen Modellen sowie teurere Abonnements zu stark reduzierten Preisen verkauften.

Der Vorfall hat Bedenken hinsichtlich des Datenschutzes und der Transparenz bei KI-Diensten geweckt, insbesondere angesichts früherer öffentlicher Zusagen von Anthropic zur Datenminimierung und zum Schutz der Privatsphäre der Nutzer.