OpenAI identifierade Kinas Moonshot AI:s försök att extrahera dess modellers resonemang

AI-företaget OpenAI meddelade på torsdagen att det har stoppat en koordinerad kampanj vars syfte var att extrahera resonemangsförmågan från dess AI-modeller. Företaget kopplade en central del av aktiviteten till det kinesiska startup-företaget Moonshot AI, utvecklaren av Kimi.

Aktiviteten började i början av juli och eskalerade snabbt till 16 000 förfrågningar från över 4 000 användare under två dagar. OpenAI uppgav att de till slut identifierade liknande aktivitet bland en grupp på över 15 000 användare och meddelade att kampanjen var helt stoppad den 28 juli.

Fynden kommer bara veckor efter att OpenAI:s konkurrent Anthropic anklagade flera kinesiska AI-utvecklare, inklusive Moonshot AI och Alibaba, för att i hemlighet ha använt deras Claude-modell för att träna sina egna modeller. Detta understryker den växande oron bland amerikanska AI-företag att konkurrenter kan använda deras modeller för att snabbare och billigare utveckla konkurrerande teknik.

OpenAI beskrev aktiviteten som "adversarial distillation", där ett AI-modells utdata eller resonemang används för att träna eller förbättra en annan modell. Enligt företaget kan extrahering av sådant resonemang tillåta andra att reproducera avancerade kapaciteter utan samma investering i att utveckla och skydda banbrytande modeller, vilket utgör potentiella risker för säkerhet och nationell säkerhet. OpenAI bekräftade att operatörerna inte bröt sig igenom dess kryptering, databaser eller lagrade användarsamtal.