Microsoft prüft chinesisches Kimi K3-Modell für Copilot zur Kostensenkung

Microsoft evaluiert intern das chinesische KI-Modell Kimi K3 von Moonlit Arcadata (月之暗面) und prüft dessen Einsatz für die Copilot-Dienste. Das Unternehmen erwägt, einen Teil der Anfragen für seinen KI-Assistenten Copilot von den aktuellen Anbietern wie OpenAI und Anthropic auf Kimi K3 umzustellen, um Kosten zu sparen.

Schätzungen zufolge könnte diese Umstellung die jährlichen Kosten für Microsofts Cloud-Infrastruktur um bis zu 600 Millionen US-Dollar reduzieren. Eine endgültige Entscheidung über die Einführung des Modells ist jedoch noch nicht getroffen worden. Microsoft verfolgt damit das Ziel, seine Abhängigkeit von einzelnen Anbietern zu verringern und die Betriebskosten für KI-Dienste zu optimieren.

Kimi K3 soll in Bereichen wie Code-Generierung und logischem Schlussfolgern wettbewerbsfähig sein und niedrigere Inferenzkosten aufweisen als Modelle von OpenAI und Anthropic. Die hohen Kosten für KI-Inferenz sind ein wesentlicher Faktor für die wirtschaftliche Tragfähigkeit von KI-Diensten. Der Einsatz günstigerer Modelle für weniger komplexe Aufgaben kann daher zur Kostensenkung beitragen.

Microsoft plant, eine erste technische Prüfung innerhalb der nächsten zwei Monate abzuschließen. Es bestehen jedoch weiterhin technische und regulatorische Hürden, darunter Datenschutzbestimmungen und Exportkontrollen, die beim Einsatz eines chinesischen Modells zu berücksichtigen sind. Zudem ist die Copilot-Architektur eng mit den Schnittstellen von OpenAI verknüpft, was Anpassungen erfordern könnte.

Experten weisen darauf hin, dass Kosteneinsparungen gegen die Nutzererfahrung abgewogen werden müssen. Eine Verschlechterung der Modellqualität könnte zu Nutzerverlusten führen, die die erzielten Einsparungen übersteigen. Microsoft-CEO Satya Nadella betont die Bedeutung von Kosteneffizienz und Lieferantenvielfalt, was diese strategische Überlegung unterstützt.