Myndigheter avslöjar bedrägerier med AI-poäng i Kina
Kinesiska myndigheter har avslöjat en stor härva där tredjepartsaktörer säljer AI-tjänstepoäng till kraftigt reducerade priser. Dessa poäng kan exponera användares kod och data för stöld.
Kinas centrala television (CCTV) har avslöjat ett bedrägerinätverk som säljer poäng för AI-tjänster till en bråkdel av det officiella priset. Enligt rapporten kan man köpa poäng för motsvarande cirka 8,8 kinesiska yuan, vars officiella värde uppgår till hundratals yuan. Dessa "billiga" poäng marknadsförs som "direkt från källan" eller via "interna kanaler".
Utredningen visar att de lågprispoängen erhålls genom att manipulera användarnas lokala konfigurationer via tredjeparts API-växelstationer. Detta gör det möjligt att avlyssna och sälja vidare användarnas dokument, kod och mötesanteckningar. Ett exempel är Tencent WorkBuddy, vars 5000-poängspaket officiellt kostar 250 yuan, men som på andrahandsplattformar säljs för så lite som 8,8 yuan.
En CCTV-reporter köpte ett sådant poängpaket och fick instruktioner som krävde nedladdning och körning av ett skript. Efter att ha kört skriptet dök ett "anpassat modell"-alternativ upp i användarens klient. Användaren upplevde att poängen förbrukades betydligt snabbare än förväntat, och säljarna medgav att deras system använde poängen 5–8 gånger snabbare. Vid närmare granskning visade det sig att användaren inte faktiskt köpte officiella poäng, utan att deras förfrågningar dirigerades genom ett system som kontrollerades av säljaren.
Teknikexperter varnar för att sådana växelstationer erbjuder opålitlig service och resurser av varierande kvalitet. Den största risken ligger i att köra okända skript lokalt, vilket ger fjärranvändare kontroll över programvarans innehåll. Detta kan leda till avlyssning och vidareförsäljning av känslig information, såsom företagskod och personliga dokument. Dessutom har Kinas säkerhetsmyndigheter varnat för liknande risker med både inhemska och utländska AI-modeller och API-gränssnitt.
Myndigheterna uppmanar användare att endast använda officiella och licensierade plattformar, att anonymisera känslig data i förväg och att omedelbart sluta använda misstänkta tjänster om ovanliga debiteringar, kontolåsningar eller andra avvikande händelser inträffar. Att samla bevis och uppdatera säkerhetsåtgärder rekommenderas.