Apple och Meta samarbetar kring lokal AI-modell

Apple och Meta har inlett ett samarbete för att göra det möjligt för utvecklare att köra Metas nya AI-modell, Muse Spark Open, lokalt på Apples högpresterande Mac-datorer. Initiativet speglar en ökande trend att köra kraftfulla AI-modeller på lokal hårdvara istället för att enbart förlita sig på molnbaserade datacenter.

Samarbetet är anmärkningsvärt med tanke på att de två företagen länge varit rivaler. Muse Spark Open är en modell med 816 miljarder parametrar och en "mixture-of-experts"-arkitektur. Som en "open-weight"-modell kan utvecklare ladda ner modellens parametrar och köra den på en rad olika hårdvarukonfigurationer. Genom att koppla samman flera Mac Studio-datorer kan användare utnyttja Muse Spark för uppgifter som kodning och videoanalys.

Enligt Metas AI-chef Alexandr Wang är många avancerade AI-modeller för stora för de flesta persondatorer, men Apples Mac Studio erbjuder tillräckligt med minne för att göra det praktiskt att köra Muse Spark Open. Samarbetet kan potentiellt utmana andra stora aktörer inom AI, som OpenAI och Anthropic, och samtidigt visa på Apples framsteg inom AI-chip.

Apple har även släppt nya prestandatester för sina AI-chip och teknisk dokumentation för sitt MLX AI-ramverk, som stöder distribution av öppna modeller över flera maskiner. Lösningen kräver dock kostsamma Mac Studio-datorer; ett system med de nödvändiga specifikationerna kostar minst 10 799 dollar.