OpenAI: Des utilisateurs de Moonshot AI ont tenté d'extraire des données de raisonnement GPT
OpenAI accuse Moonshot AI, une startup chinoise, d'avoir tenté d'extraire des données de raisonnement de ses systèmes GPT. L'entreprise affirme que ces tentatives visaient à reproduire les capacités de ses modèles avancés et ont eu lieu en juillet.
La société d'intelligence artificielle OpenAI a annoncé le 30 septembre que des utilisateurs liés à Moonshot AI, une startup basée à Pékin derrière le chatbot Kimi, auraient tenté d'extraire des données de raisonnement cachées de ses systèmes GPT. OpenAI a déclaré que ces efforts pourraient aider à reproduire le raisonnement et les capacités de ses modèles les plus avancés.
L'activité présumée a débuté début juillet et a atteint son paroxysme plus tard dans le mois, avec jusqu'à 16 000 requêtes signalées par OpenAI. Selon l'entreprise, les utilisateurs ont copié des raisonnements cryptés d'une conversation et ont demandé à un modèle d'une autre conversation de les transcrire. Ce processus pourrait permettre la réplication des fonctionnalités exclusives d'IA d'OpenAI.
OpenAI a partagé les détails de l'incident via le Frontier Model Forum, un groupe industriel, et par des canaux gouvernementaux. Cette accusation s'ajoute aux allégations plus larges des États-Unis concernant les développeurs d'IA chinois qui pourraient extraire des connaissances propriétaires d'entreprises américaines.
L'entreprise n'a pas précisé publiquement comment les éventuels matériaux extraits ont été utilisés. Cet incident souligne le paysage concurrentiel dans le développement de l'IA et les défis permanents liés à la protection des données des modèles avancés et de la propriété intellectuelle.