Mac-kluster kör AI-modellen Kimi K2 Thinking

Apple har uppdaterat sitt macOS-operativsystem för att underlätta skapandet av AI-kluster genom att koppla samman flera Mac-datorer. Den nya versionen av macOS, kallad Tahoe, möjliggör att sammankopplad hårdvara kan utnyttjas med låg latens genom Apples interna AI-gränssnitt MLX och Exo Labs mjukvara.

I en demonstration kopplade Apple samman fyra Mac Studio M3 Ultra-maskiner via ett Thunderbolt 5-nätverk. Varje maskin var utrustad med 512 GB minne. Med denna konfiguration kunde den kinesiska AI-modellen Kimi K2 Thinking, som är över en terabyte stor, köras lokalt. Modellen anses vara nästan i klass med GPT-5.

Denna lösning är dock kostsam. En enskild Mac Studio M3 Ultra med 512 GB minne och 1 TB SSD kostar cirka 11 674 euro. Ett kluster med fyra sådana maskiner skulle uppgå till nästan 47 000 euro. Apple erbjuder därmed en möjlighet för forskare och professionella utvecklare med en betydande budget att köra stora lokala AI-modeller.

Klusterets maximala energiförbrukning var 500 watt, en tiondel jämfört med ett motsvarande GPU-kluster. Thunderbolt 5 möjliggör en dataöverföringshastighet på 80 Gb/s och låg latens. Samma teknik kan även användas med den billigare Mac Mini M4 Pro, även om den endast finns med upp till 64 GB RAM per enhet.