Acrab julkaisee GΞLIX 1 -reuna-AI-sirun
Startup Acrab on lanseerannut GΞLIX 1 -järjestelmäpiirin (SoC), joka on suunniteltu reuna-AI-päätelaitteisiin. Siru tukee jopa 100 miljardin parametrin mallien paikallista suoritusta.
Startup-yritys Acrab julkaisi eilen GΞLIX 1 -järjestelmäpiirin (SoC), joka on tarkoitettu reuna-AI-päätelaitteisiin. Tämä 5 nanometrin prosessilla valmistettu siru mahdollistaa jopa 100 miljardin parametrin tekoälymallien paikallisen suorittamisen, mikä on merkittävä edistysaskel laskentatehossa päätelaitteissa.
GΞLIX 1 hyödyntää heterogeenistä arkkitehtuuria, johon kuuluu 20-ytiminen Arm CPU, 3TFLOPS GPU ja NPU, jonka AI-suorituskyky on 650TOPS. Sirussa on 8MB L1-välimuistia ja nopeasti toimiva LPDDR5X-muisti. Acrab väittää, että siru pystyy nopeuttamaan tekoälymallien suorituskykyä optimointien avulla.
Yksi merkittävimmistä suorituskykyväitteistä on GΞLIX 1:n kyky saavuttaa 1416,8 Token/s esitäyttönopeus Gemma 26B -mallilla. Acrabin mukaan tämä on 7,5 kertaa nopeampi kuin Apple M4 Pro Mac Minissä, mikä korostaa sirun potentiaalia vaativissa AI-sovelluksissa.
Sirun lisäksi Acrab tarjoaa kattavan ohjelmistopaketin ja referenssisuunnittelun, sekä ensimmäisen oman laitteensa, Agent Boxin, joka perustuu GΞLIX 1:een. Tämä kokonaisvaltainen lähestymistapa pyrkii nopeuttamaan AI-teknologian käyttöönottoa eri päätelaitteissa.