OpenAI a déjoué la tentative de Moonshot AI (Chine) d'extraire le raisonnement de ses modèles

La société d'intelligence artificielle OpenAI a annoncé jeudi avoir déjoué une campagne coordonnée d'opérateurs tentant d'extraire le raisonnement protégé de ses modèles d'IA. Elle a lié un groupe central de cette activité à la startup chinoise Moonshot AI, développeur du modèle Kimi.

L'activité a débuté début juillet et a rapidement atteint 16 000 requêtes provenant de plus de 4 000 utilisateurs sur deux jours, a indiqué OpenAI. L'entreprise a finalement identifié des activités connexes au sein d'un groupe de plus de 15 000 utilisateurs et a déclaré avoir complètement interrompu la campagne d'ici le 28 juillet.

Ces découvertes surviennent quelques semaines après qu'Anthropic, un concurrent d'OpenAI, a accusé plusieurs développeurs chinois d'IA, dont Moonshot AI et Alibaba, d'avoir utilisé secrètement son modèle Claude pour entraîner leurs propres systèmes d'IA. Cela souligne les préoccupations croissantes des entreprises américaines d'IA quant à la possibilité que des concurrents exploitent leurs modèles pour développer des technologies concurrentes plus rapidement et à moindre coût.

OpenAI a qualifié cette activité de "distillation contradictoire", où les sorties ou le raisonnement d'un modèle d'IA sont utilisés pour entraîner un autre modèle. L'extraction d'un tel raisonnement pourrait permettre à d'autres de reproduire des capacités avancées sans le même investissement dans le développement et la protection de modèles de pointe, présentant des risques potentiels pour la sécurité et la sécurité nationale. L'entreprise a confirmé que les opérateurs n'avaient ni violé son cryptage, ni ses bases de données, ni ses conversations utilisateur enregistrées.