Mac-Cluster mit Kimi K2 Thinking: Apple verbessert KI-Fähigkeiten
Apple ermöglicht mit einem macOS-Update die Bildung von KI-Clustern aus mehreren Mac-Rechnern. Die neue macOS-Version "Tahoe" erlaubt die Nutzung kombinierter Hardware mit geringer Latenz über Apples MLX-Schnittstelle.
Apple hat sein macOS-Betriebssystem erweitert, um die Erstellung von KI-Clustern aus mehreren Mac-Rechnern zu erleichtern. Die neue Version "Tahoe" ermöglicht die Nutzung von vernetzter Hardware mit geringer Latenz über Apples proprietäre MLX-Schnittstelle und die Software von Exo Labs.
In einer Demonstration verband Apple vier Mac Studio M3 Ultra-Maschinen zu einem Thunderbolt 5-Netzwerk. Jede Maschine war mit 512 GB Arbeitsspeicher ausgestattet. Diese Konfiguration war in der Lage, das über einen Terabyte große KI-Modell "Kimi K2 Thinking" des chinesischen Unternehmens Moonshot AI lokal auszuführen. Das Modell gilt als nahezu ebenbürtig mit GPT-5.
Die Lösung ist jedoch kostspielig. Ein einzelnes Mac Studio M3 Ultra-Modell mit 512 GB RAM und 1 TB SSD kostet rund 11.674 Euro. Ein Cluster aus vier solchen Maschinen würde somit fast 47.000 Euro kosten. Apple bietet damit Forschern und professionellen Entwicklern mit entsprechendem Budget die Möglichkeit, sehr große lokale KI-Modelle zu betreiben.
Der Spitzenstromverbrauch des Clusters lag bei 500 Watt, ein Zehntel eines vergleichbaren GPU-Clusters. Thunderbolt 5 ermöglicht eine Datenübertragungsrate von 80 Gbit/s und niedrige Latenzzeiten. Diese Technologie kann auch mit dem günstigeren Mac Mini M4 Pro genutzt werden, der jedoch pro Einheit maximal 64 GB RAM bietet.