Meta julkaisee avoimen tekoälymallin paikalliseen käyttöön

Meta on julkaissut Muse Glimmer -tekoälymallin, 30 miljardin parametrin avoimen painon mallin, joka on suunniteltu suorittamaan autonomisia tekoälyagentteja suoraan kuluttajalaitteistoilla. Tämä mahdollistaa aiemmin pilvipalveluihin sidottujen agenttitehtävien suorittamisen tehokkailla Mac- ja PC-tietokoneilla.

Malli julkaistaan Apache 2.0 -lisenssillä, joka on yksi alan yleisimmistä avoimen lähdekoodin lisensseistä. Tämä on Metan ensimmäinen täysin avoin julkaisu sen jälkeen, kun yhtiö toi huhtikuussa markkinoille suljetun lähdekoodin Muse Spark -mallin. Apache 2.0 -lisenssi on aiempaa Llama-malliperheen yhteisölisenssiä sallivampi, sillä se ei sisällä rajoituksia kaupalliseen käyttöön tai uudelleenjakeluun.

Muse Glimmer on suunniteltu erityisesti agenttityönkulkuja varten, sisältäen kyvyn suunnitella, kutsua työkaluja, tulkita tuloksia ja palautua virhetilanteista. Meta on optimoinut mallin toimimaan paikallisesti, jopa 24 gigatavun videomuistilla (VRAM), mahdollistaen arkaluontoisten tietojen käsittelyn ilman jatkuvaa tiedonsiirtoa etäpalvelimille. Malli tukee myös kuvien ja tekstin yhdistettyä käsittelyä.

Meta tekee yhteistyötä laitevalmistajien, kuten AMD:n, Armin, Dellin, Intelin ja Nvidian kanssa, mallin suorituskyvyn optimoimiseksi eri laitteistoilla. Mallin painot ovat saatavilla Hugging Face -alustalla, ja tuki yleisimmille paikallisille suoritusympäristöille on tulossa viikoittain. Meta julkaisee myös kehittäjädokumentaatiota mukautettujen agenttiratkaisujen luomiseksi.