Weka esittelee uuden tallennusalustan tehostamaan tekoälyä

Tekoälytallennusyritys Weka on julkaissut uuden NeuralMesh 6 -ohjelmistonsa yhdessä ensimmäisen oman laitteistosuunnittelunsa, Wekapod 3:n, kanssa. Tavoitteena on parantaa tekoälymallien suorituskykyä ja tehokkuutta vähentämällä merkittävästi kalliiden grafiikkaprosessorien (GPU) muistin tarvetta.

Uusi alusta hyödyntää Wekan Augmented Memory Grid -lähestymistapaa, joka aggregoidaan flash-muistia toimimaan GPU-muistin tavoin edullisemmin. Tämä ratkaisu pyrkii helpottamaan tekoälymallien suorituskykyongelmia, jotka johtuvat pitkistä konteksti-ikkunoista ja monikierroksisista keskusteluista, jotka aiheuttavat tarpeetonta uudelleenlaskentaa ja kuluttavat GPU-resursseja.

NeuralMesh 6 sisältää useita uusia ominaisuuksia, kuten yhdisteltävän ja virtuaalisen monen vuokralaisen tuen, joka mahdollistaa laitteistotason eristyksen ja skaalautuu jopa tuhansiin vuokralaisiin klusteria kohden. Lisäksi alusta tarjoaa yhtenäisen tiedosto- ja objektitallennuksen ilman erillisiä datakopioita tai käännöskerrokisia, mikä nopeuttaa tiedonkäsittelyä erityisesti GPU-pilvipalveluissa.

MetaData-first -replikointi ja AlloyFlash-teknologia parantavat edelleen suorituskykyä ja kustannustehokkuutta. AlloyFlash yhdistää eri tyyppisiä NAND-flash-muisteja, jotta kustannustehokkaampaa QLC-muistia voidaan käyttää suurille datamäärille ilman suorituskyvyn heikkenemistä kriittisissä tehtävissä, jotka hyötyvät nopeammasta TLC-muistista.

Wekan toimitusjohtaja Liran Zvibel korostaa, että uusi alusta mahdollistaa jopa satojen kertojen tehokkaamman välimuistin hyödyntämisen, mikä poistaa tarpeen laskea samoja tietoja uudelleen ja säästää merkittävästi GPU-resursseja. Tämä voi nopeuttaa uusien tekoälytyökuormien käyttöönottoa ja parantaa olemassa olevien GPU-investointien hyödyntämistä.