Moreh esitteli suurta kielimallia AMD-korteilla San Franciscossa
Tekoälyinfrastruktuuriohjelmistoyhtiö Moreh esitteli San Franciscossa järjestetyssä AMD:n tekoälytapahtumassa MoAI Inference Framework -ratkaisuaan. Se toimi AMD Instinct MI300X -grafiikkaprosessoreilla.
AI-infrastruktuuriohjelmistoyhtiö Moreh osallistui AMD Advancing AI 2026 -tapahtumaan San Franciscossa 22.–23. heinäkuuta 2026. Yritys esitteli siellä MoAI Inference Framework -ratkaisuaan, joka on suunniteltu suurten kielimallien (LLM) päättelytehtäviin AMD:n grafiikkaprosessoreilla.
Tapahtumassa Moreh demonstroi GLM-5.1 -kielimallin suoritusta MoAI Frameworkin avulla 32 AMD Instinct MI300X GPU:hun kytketyssä järjestelmässä. Kävijät saivat itse kokeilla chatbotia ja arvioida sen vastausnopeutta ja suorituskykyä todellisissa käyttötapauksissa. Esittelyssä näytettiin reaaliaikaisesti myös keskeisiä päättelypalvelun mittareita, kuten GPU:n käyttöastetta ja Token Per Second (TPS) -lukemaa.
Morehin MoAI Inference Framework on suunniteltu vähentämään tekoälypalveluiden kustannuksia hyödyntämällä hajautettua päättelyä ja heterogeenista laskentaa. Tämän teknologian tavoitteena on ratkaista suuria tekoälymalleja käyttävien yritysten kasvavia infrastruktuuri- ja palvelukustannuksia tarjoamalla tehokkaampi päättelyinfrastruktuuri.
Morehin toimitusjohtaja Gangwon Jo kommentoi tilaisuuden tarjonneen globaaleille asiakkaille mahdollisuuden varmistaa AMD GPU -ympäristöjen korkea päättelysuorituskyky. Yritys jatkaa tekoälyinfrastruktuuriohjelmistojensa kehittämistä, jotta yritykset voivat operoida tekoälypalveluita mahdollisimman tehokkaasti riippumatta alustasta.