DeepSeek päivitti Flash-mallinsa ja julkaisi avoimen lähdekoodin päättelykehyksen
DeepSeek on julkaissut päivitetyn version V4.1 Flash -mallistaan sekä DeepInfer-päättelykehyksen tavoitteenaan parantaa suorituskykyä ja laskea tekoälysovellusten käyttökustannuksia.
DeepSeek julkaisi 17. lokakuuta päivityksen V4.1 Flash -tekoälymalliinsa. Yhtiön mukaan uusi V4.1-Flash-1017-versio suoriutuu aiempaa tehokkaammin koodaus- ja agenttitehtävistä. Sisäisten testitulosten mukaan mallin Terminal-Bench 4.0 -pistemäärä nousi 31,2 pisteestä 42,3 pisteeseen. Yhtiö kertoo mallin saavuttavan 77 prosentin onnistumisasteen DeepSWE v1.1 -testissä noin 0,20 dollarin kappalehintaan.
Mallipäivityksen lisäksi DeepSeek avasi lähdekoodin DeepInfer-päättelykehykselleen, jota se käyttää omassa tuotannossaan. Kehyksen tavoitteena on optimoida laskentaresurssien käyttöä latenssin ja läpimenon parantamiseksi. Ohjelmisto tukee tällä hetkellä Nvidian SM100-grafiikkasuorittimia sekä Huawein Ascend 950 -kiihdyttimiä. Dokumentaation mukaan kyseessä ei ole täydellinen tuotantopino, vaan se vaatii kehittäjiltä lisätyötä muun muassa kuormantasausratkaisujen osalta.
Yhtiö pyrkii vastaamaan alalla vallitsevaan tarpeeseen vähentää laajamittaisten tekoälysovellusten ajamisesta aiheutuvia kustannuksia. Vaikka DeepSeekin omat benchmark-tulokset osoittavat tehokkuuden kasvua, ratkaisujen todellinen hyöty riippuu kehittäjien kyvystä integroida uudet työkalut omiin tuotantoympäristöihinsä. DeepSeekin toimintamalli keskittyy nyt sekä mallien optimointiin että infrastruktuurin avaamiseen.