Apple und Meta kooperieren bei lokaler KI-Modell-Ausführung

Apple und Meta haben eine Partnerschaft bekannt gegeben, die es Entwicklern ermöglichen wird, Metas KI-Modell Muse Spark Open lokal auf Apples High-End-Mac-Computern auszuführen. Diese Zusammenarbeit spiegelt ein wachsendes Brancheninteresse wider, komplexe KI-Modelle auf lokaler Hardware zu verarbeiten, anstatt sich ausschließlich auf Cloud-Infrastruktur zu verlassen, was Sicherheit erhöht und potenziell Kosten senkt.

Die Partnerschaft ist angesichts der historischen Rivalität zwischen den beiden Technologiegiganten bemerkenswert. Das Muse Spark Open-Modell mit seiner 816-Milliarden-Parameter-"Mixture-of-Experts"-Architektur ist ein Open-Weight-Modell. Dies ermöglicht es Entwicklern, seine Parameter herunterzuladen und es auf verschiedenen Hardware-Konfigurationen auszuführen. Benutzer können Berichten zufolge mehrere Mac Studio-Computer kombinieren, um Aufgaben wie Codierung und Videoanalyse zu verarbeiten.

Metas KI-Chef Alexandr Wang erklärte, dass viele leistungsstarke Open-Weight-Modelle für typische Personal Computer zu groß sind, Apples Mac Studio jedoch genügend Speicherplatz bietet, um die Ausführung von Muse Spark Open praktikabel zu machen. Dieser Schritt könnte eine Herausforderung für andere große KI-Akteure wie OpenAI und Anthropic darstellen und gleichzeitig Apples Fortschritte bei eigenen KI-Chips hervorheben.

Apple hat zudem neue Benchmarks für seine Chips und technische Dokumentation für sein MLX AI-Framework veröffentlicht, das das Aufteilen von Open-Source-Modellen über mehrere Maschinen hinweg unterstützt. Die Lösung erfordert jedoch teure Mac Studio-Maschinen, wobei eine Basiskonfiguration mit den erforderlichen Spezifikationen über 10.799 US-Dollar kostet.