Meta veröffentlicht offenes KI-Modell für lokale Agentenausführung

Meta hat Muse Glimmer veröffentlicht, ein Open-Weight-Modell mit 30 Milliarden Parametern, das für die Ausführung autonomer KI-Agenten direkt auf Verbraucherhardware konzipiert ist. Dies ermöglicht es, agentenbasierte Arbeitslasten, die typischerweise auf Cloud-Infrastruktur angewiesen sind, auf leistungsstarken Macs und PCs auszuführen.

Das Modell wird unter der permissiven Apache 2.0 Open-Source-Lizenz veröffentlicht, was Metas erste vollständig offene Veröffentlichung seit dem proprietären Muse Spark darstellt. Die Apache 2.0-Lizenz ist offener als die frühere benutzerdefinierte Lizenz für die Llama-Familie und erlaubt uneingeschränkte kommerzielle Nutzung und Modifikation.

Muse Glimmer ist speziell für agentenbasierte Arbeitsabläufe trainiert und verfügt über Fähigkeiten zur Planung, zum Aufrufen von Werkzeugen, zur Interpretation von Ergebnissen und zur Fehlerbehebung. Meta hat das Modell für die lokale Inferenz optimiert, sodass es auf Systemen mit 24 GB VRAM laufen kann. Dies ermöglicht die lokale Verarbeitung sensibler Daten, ohne dass diese kontinuierlich an entfernte Server übertragen werden müssen. Das Modell unterstützt auch die Verarbeitung von verschachteltem Text und Bildern.

Meta arbeitet mit Hardwarepartnern wie AMD, Arm, Dell, Intel und Nvidia zusammen, um die Leistung über verschiedene Geräte hinweg zu optimieren. Die Modellgewichte sind auf Hugging Face verfügbar, und die Unterstützung für verschiedene lokale Laufzeitsysteme wird schrittweise eingeführt. Meta stellt auch Entwicklerdokumentation für den Aufbau benutzerdefinierter Agenten-Scaffolds bereit.