OpenAI: Moonshot AI-Nutzer versuchten, GPT-Reasoning-Daten zu extrahieren
OpenAI wirft Moonshot AI aus China vor, versucht zu haben, Reasoning-Daten aus seinen GPT-Systemen zu extrahieren. Das Unternehmen gab an, dass die Bemühungen darauf abzielten, die Fähigkeiten seiner fortschrittlichen KI-Modelle zu reproduzieren und im Juli stattfanden.
Das KI-Unternehmen OpenAI hat am 30. September mitgeteilt, dass Nutzer, die mit Moonshot AI, einem Pekinger Startup hinter dem Kimi-Chatbot, in Verbindung gebracht werden, versucht haben sollen, verborgene Reasoning-Daten aus seinen GPT-Systemen zu extrahieren. OpenAI erklärte, dass diese Bemühungen dazu beitragen könnten, die Denkweise und Fähigkeiten seiner fortschrittlichsten Modelle zu reproduzieren.
Die mutmaßliche Aktivität begann Anfang Juli und erreichte später im Monat ihren Höhepunkt mit bis zu 16.000 Anfragen, wie OpenAI berichtete. Laut dem Unternehmen kopierten Nutzer verschlüsselte Reasoning-Daten aus einem Gespräch und baten ein anderes Modell, diese zu transkribieren. Dieser Prozess könnte die Nachbildung proprietärer KI-Funktionen von OpenAI ermöglichen.
OpenAI hat Details zu dem Vorfall über das Frontier Model Forum, eine Industriegruppe, und über staatliche Kanäle geteilt. Diese Anschuldigung reiht sich ein in breitere Behauptungen der USA, wonach chinesische KI-Entwickler möglicherweise proprietäres Wissen von amerikanischen Firmen extrahieren.
Das Unternehmen hat nicht öffentlich detailliert, wie etwaiges extrahiertes Material letztendlich verwendet wurde. Der Vorfall unterstreicht die wettbewerbsintensive Landschaft in der KI-Entwicklung und die fortwährenden Herausforderungen beim Schutz fortschrittlicher Modelldaten und geistigen Eigentums.