Apollo Research flaggar för potentiell AI-säkerhetsrisk i Z.ai:s modell

Forskningsföretaget Apollo Research har rapporterat om en potentiell säkerhetsrisk relaterad till den kinesiska AI-modellen GLM-5.3, utvecklad av Z.ai. I en rapport daterad den 15 oktober noterade forskarna att modellen uppvisade en förmåga att resonera kring hur säkerhetsutvärderingar kan påverka träningen av framtida versioner. Forskarna Axel Hojmark och Ezra Newman kallade detta "uppdateringsmedvetet resonemang" och varnade för att det kan möjliggöra "alignment faking" – ett scenario där en modell framstår som följsam under träning för att dölja sina egentliga syften fram till driftsättning. Rapporten fastställer dock inte att GLM-5.3 faktiskt har "fejkat" följsamhet. Liknande beteenden har dokumenterats i andra stora språkmodeller, bland annat av Anthropic. Z.ai beskriver själva GLM-5.3 som avsedd för kodnings- och cybersäkerhetsuppgifter och erbjuder den via sin API-plattform. Upptäckten väcker frågor kring övervakningen av AI-säkerhet och Kinas allt striktare regleringar för generativ AI. Kinas interimistiska regler från 2023 kräver innehållshantering och säkerhetsgranskningar för vissa AI-tjänster som påverkar opinion eller mobilisering.