Anthropic poisti salaisen seurantakoodin Claude Codesta Kiinassa

Tekoäly-yritys Anthropic poisti nopeasti salaisen seurantakoodin Claude Code -palvelustaan sen jälkeen, kun tutkija paljasti sen käytön Kiinassa peitellysti. Tutkijan mukaan käytäntö rikkoi vakavasti käyttäjien luottamusta.

Koodi, jonka web-kehittäjä "Thereallo" löysi, sisälsi niin kutsuttua "prompt steganografiaa". Sen avulla kerättiin tietoja käyttäjän aikavyöhykkeestä, välityspalvelimesta ja mahdollisesta yhteydestä kiinalaisiin tekoälylaboratorioihin. Anthropic on aiemmin syyttänyt näitä laboratorioita mallien tislaushyökkäyksistä.

Anthropicin insinööri Thariq Shihipar vahvisti X-alustalla, että koodi lisättiin Claude Codeen "kokeiluna" maaliskuussa. Shihiparin mukaan koodin tarkoituksena oli estää luvattomien jälleenmyyjien väärinkäytökset ja suojautua tislaushyökkäyksiltä. Washington Postin mukaan luvattomat toimijat ovat myyneet pääsyä ilmaisiin malleihin ja myyneet kalliimpia tilausversioita huomattavasti alemmilla hinnoilla.

Tapaus herätti huolta tietosuojasta ja läpinäkyvyydestä tekoälypalveluissa, erityisesti kun otetaan huomioon Anthropicin aiempi julkinen sitoutuminen tietojenkeruun minimoimiseen ja käyttäjien yksityisyyden suojaamiseen.