Gigabyte tukee Nemotron 3.5 Lightning -mallia AI-agenttien laskentaan

Gigabyte Technology on ilmoittanut, että sen AI TOP ATOM -laitteistoalusta tukee täysin NVIDIAn uutta Nemotron 3.5 Lightning -mallia ja avoimen lähdekoodin NeMo Switchyard -reitityskirjastoa. Tämä yhdistelmä tarjoaa yrityksille ja kehittäjille tehokkaan paikallisen laskentaratkaisun autonomisia agentti-AI-sovelluksia varten, jotka vaativat matalaa viivettä ja korkeaa tietosuojaa.

Nemotron 3.5 Lightning on suunniteltu erityisesti nopeuttamaan tehtävien suoritusta AI-agenttijärjestelmissä. Malli, joka perustuu Mixture-of-Experts (MoE) -arkkitehtuuriin, tarjoaa jopa nelinkertaisen suorituskyvyn saman luokan malleihin verrattuna. Se soveltuu erinomaisesti toistuviin ja erikoistuneisiin tehtäviin, optimoiden laskennan tehokkuutta ja minimoiden vasteaikoja.

Malli tarjoaa myös parannettua tarkkuutta koodauksessa, työkalujen käytössä ja ohjeiden noudattamisessa. Sen laaja kontekstin pituus ja avoimena mallina saatavuus mahdollistavat paikallisen käyttöönoton ja räätälöinnin, säilyttäen samalla arkaluonteisen datan yrityksen sisäverkossa. Gigabyte tarjoaa tähän optimoidun AI TOP ATOM -laitteiston, joka sopii erilaisiin käyttötarkoituksiin aina henkilökohtaisista työasemista datakeskuspalvelimiin.

Teknologiaa voidaan hyödyntää monilla aloilla, kuten henkilökohtaisissa avustajissa, ohjelmistokehityksessä, kyberturvallisuudessa sekä rahoitus- ja terveyspalveluiden automaatiossa. Gigabyte'n laitteisto, mukaan lukien AI TOP ATOM -työpöytäratkaisu NVIDIA Grace Blackwell Superchipillä, on suunniteltu mahdollistamaan Nemotron 3.5 Lightningin täysi potentiaali paikallisissa ja reunalaskentaympäristöissä.