Behörden decken Betrug mit günstigen KI-Punkten auf
Chinesische Behörden haben ein weitreichendes Schema aufgedeckt, bei dem stark vergünstigte KI-Dienstpunkte über Dritte verkauft werden. Diese Punkte bergen das Risiko, Code und Daten von Benutzern abzufangen und weiterzuverkaufen.
Chinas Zentralfernsehen (CCTV) hat ein Betrugsnetzwerk aufgedeckt, das KI-Dienstpunkte zu einem Bruchteil des offiziellen Preises verkauft. Berichten zufolge können Benutzer für nur 8,8 Yuan Punkte erwerben, die offiziell Hunderte von Yuan wert sind. Diese vergünstigten Punkte werden als direkt von der Quelle oder über "interne Kanäle" bezogen beworben.
Die Untersuchung zeigt, dass diese günstigen Punkte durch Manipulation lokaler Konfigurationen von Benutzern über API-Relaisstationen von Drittanbietern erzielt werden. Dies ermöglicht das Abfangen und Weiterverkaufen von Benutzerdokumenten, Code und Besprechungsnotizen. Beispielsweise wird das 5000-Punkte-Paket von Tencent WorkBuddy, das offiziell 250 Yuan kostet, auf Sekundärmärkten für nur 8,8 Yuan verkauft.
Ein CCTV-Reporter kaufte ein solches Paket und erhielt Anweisungen zum Herunterladen und Ausführen eines Skripts. Nach der Ausführung erschien eine Option "benutzerdefiniertes Modell" im Client. Benutzer berichteten von einem deutlich schnelleren Punkteverbrauch, wobei Verkäufer zugaben, dass ihre Systeme die Punkte 5-8 Mal schneller nutzten. Es wurde festgestellt, dass Benutzer keine offiziellen Punkte erwarben, sondern über vom Verkäufer kontrollierte Systeme geleitet wurden.
Technologieexperten warnen davor, dass diese Relaisstationen unzuverlässige Dienste und unterschiedlich qualifizierte Ressourcen anbieten. Das Hauptrisiko besteht darin, unbekannte Skripte lokal auszuführen, was externen Betreibern die Kontrolle über die Aktionen der Software gibt. Dies kann zum Abfangen und Weiterverkauf sensibler Informationen, einschließlich Firmencode und persönlicher Dokumente, führen. Chinas Staatssicherheitsbehörde hat ebenfalls vor ähnlichen Risiken im Zusammenhang mit heimischen und ausländischen KI-Modellen und APIs gewarnt.
Die Behörden raten den Benutzern, ausschließlich offizielle und autorisierte Plattformen zu nutzen, sensible Daten im Voraus zu anonymisieren und die Nutzung verdächtiger Dienste sofort einzustellen, wenn ungewöhnliche Gebühren, Kontosperrungen oder andere Anomalien auftreten. Das Sammeln von Beweisen und die Aktualisierung von Sicherheitsmaßnahmen werden empfohlen.