OpenAI unterband Versuch des chinesischen Unternehmens Moonshot AI, Modell-Schlussfolgerungen zu extrahieren
OpenAI hat eine koordinierte Kampagne zur Extraktion geschützter Schlussfolgerungen aus seinen KI-Modellen identifiziert und gestoppt. Ein Kernbereich der Aktivität wurde mit dem chinesischen Startup Moonshot AI in Verbindung gebracht.
Das künstliche Intelligenz-Unternehmen OpenAI gab am Donnerstag bekannt, eine koordinierte Kampagne von Betreibern gestoppt zu haben, die versuchten, geschützte Schlussfolgerungen aus seinen KI-Modellen zu extrahieren. Ein zentraler Teil der Aktivität wurde mit dem chinesischen Startup Moonshot AI, dem Entwickler des Kimi-Modells, in Verbindung gebracht.
Die Aktivität begann Anfang Juli und stieg innerhalb von zwei Tagen auf 16.000 Anfragen von mehr als 4.000 Nutzern an, wie OpenAI mitteilte. Das Unternehmen identifizierte schließlich verwandte Aktivitäten in einem Cluster von über 15.000 Nutzern und gab an, die Kampagne bis zum 28. Juli vollständig gestoppt zu haben.
Die Ergebnisse kommen wenige Wochen nachdem der Konkurrent Anthropic mehrere chinesische KI-Entwickler, darunter Moonshot AI und Alibaba, beschuldigt hatte, heimlich sein Claude-Modell zum Trainieren eigener KI-Systeme verwendet zu haben. Dies unterstreicht die wachsenden Bedenken bei US-amerikanischen KI-Unternehmen, dass Konkurrenten ihre Modelle nutzen könnten, um konkurrierende Technologien schneller und kostengünstiger zu entwickeln.
OpenAI beschrieb die Aktivität als "adversarielles Destillieren", bei dem die Ausgaben oder Schlussfolgerungen eines KI-Modells zum Trainieren eines anderen Modells verwendet werden. Die Extraktion solcher Schlussfolgerungen könnte es anderen ermöglichen, fortschrittliche Fähigkeiten zu reproduzieren, ohne die gleichen Investitionen in die Entwicklung und Sicherung von Spitzenmodellen zu tätigen, was potenzielle Sicherheits- und nationale Sicherheitsrisiken birgt. Das Unternehmen bestätigte, dass die Betreiber weder die Verschlüsselung, die Datenbanken noch die gespeicherten Benutzergespräche kompromittiert haben.