Meta släpper AI-modell för lokal drift under öppen licens

Meta har släppt Muse Glimmer, en AI-modell med 30 miljarder parametrar som är utformad för att köra autonoma AI-agenter direkt på konsumenthårdvara. Detta möjliggör att agentarbetsflöden, som normalt kräver molninfrastruktur, kan köras på högpresterande Mac- och PC-datorer.

Modellen licensieras under Apache 2.0, en branschstandardlicens för öppen källkod. Detta markerar Metas första helt öppna utgåva sedan lanseringen av den proprietära Muse Spark. Apache 2.0-licensen är mer tillåtande än Metas tidigare Llama-modellers egna licens, som hade restriktioner för kommersiell användning.

Muse Glimmer är optimerad för agentuppgifter, inklusive förmågan att planera, anropa verktyg, tolka resultat och hantera fel. Meta har fokuserat på lokal exekvering, där modellen kan köras på maskiner med 24 GB VRAM, vilket möjliggör hantering av känslig data utan att den kontinuerligt behöver skickas till fjärrservrar. Modellen stödjer även multimodalitet, såsom bearbetning av text och bilder.

Meta samarbetar med hårdvaruleverantörer som AMD, Arm, Dell, Intel och Nvidia för att optimera prestandan. Modellens vikter är tillgängliga via Hugging Face, och stöd för olika lokala exekveringsmiljöer rullas ut. Företaget tillhandahåller även dokumentation för utvecklare som vill bygga egna agentlösningar.