AMD ja Cerebras yhdistävät voimiaan matalan viiveen tekoälyratkaisuissa
AMD ja Cerebras tekevät yhteistyötä kehittääkseen uusia tekoälyn päättelyratkaisuja. Yhteistyön tavoitteena on parantaa merkittävästi suorituskykyä ja tehokkuutta erityisesti matalan viiveen sovelluksissa.
Yhdysvaltalainen puolijohdevalmistaja AMD ja teknologiayhtiö Cerebras ilmoittivat yhteistyöstä tekoälyn päättelyratkaisujen kehittämiseksi. Yhteistyön keskiössä ovat sovellukset, jotka vaativat erittäin matalaa viivettä.
Uudet ratkaisut yhdistävät AMD:n Helios-konesaliratkaisun ja Cerebrasin piirilevytason suorituskykyisen moottorin. Tämän integraation avulla pyritään haastamaan nykyisiä markkinajohtajia, kuten Nvidian ja Groqin tekemää yhteistyötä.
AMD:n Helios-järjestelmän odotetaan käsittelevän suurta datamäärää ja pidempiä konteksti-ikkunoita, jotka ovat olennaisia tekoälymallien tehokkaalle toiminnalle. Cerebrasin piirilevytason moottori puolestaan keskittyy nopeaan token-generointiin ja dekoodaukseen, jotka vaativat suurta muistin kaistanleveyttä ja matalaa viivettä.
Osapuolten mukaan yhdistetty ratkaisu, jossa hyödynnetään kahta laskentamoottoria, voi parantaa tokenien tuotantonopeutta wattia kohden jopa viisinkertaiseksi. Cerebrasin teknologia perustuu yhteen suureen piirisiruun, joka sisältää satojatuhansia laskentaytimiä ja kymmeniä gigatavuja SRAM-muistia, pyrkien minimoimaan viestintäpullonkauloja.