Kinesiska myndigheter flaggar säkerhetsproblem i Anthropic Claude-kod

Kinas nationella myndighet för cybersäkerhet (CAC) har meddelat att man identifierat hot och sårbarheter i källkoden till språkmodellen Claude, som utvecklats av det amerikanska AI-företaget Anthropic. Enligt myndigheten berör dessa fynd modellens identifierings- och autentiseringsmekanismer.

Detta tillkännagivande är betydande och visar på Kinas aktiva övervakning av utländska AI-teknologier. Rapporten publicerades på CAC:s officiella WeChat-konto och understryker Kinas ökande oro för AI:s säkerhetsimplikationer och dess potentiella användning för spridning av desinformation eller andra skadliga ändamål.

Anthropic, ett företag som fått betydande investeringar från bland annat Google och Amazon, strävar efter att utveckla säkra och pålitliga AI-system och har betonat säkerhet som en central del av sin utvecklingsprocess. De säkerhetsbekymmer som nu uppstått kring Claude-modellens kod kan påverka dess användning och acceptans på den globala marknaden, särskilt i Kina.

Kinesiska myndigheter har inte lämnat detaljerad information om vilka konkreta hot de identifierade sårbarheterna skulle kunna orsaka. Meddelandet belyser dock vikten av granskning av säkerheten i internationella AI-modeller och väcker frågor om hur olika länders myndigheter framöver kommer att utvärdera och reglera sådan teknologi.