Amazon julkaisee oman Jev-kloonin päätösmallien yleistyessä

Amazon Web Services (AWS) on julkaissut avoimen lähdekoodin päätösmallin nimeltä Strands Decider 2B. Malli on saanut inspiraationsa TypeSafen Jev-mallista, ja se on suunnattu kehittäjille, jotka etsivät tietokoneautomaatioon paremmin soveltuvaa tekoälyä rajatason suuria kielimalleja (LLM) varten.

Strands Decider 2B toimii nopeana ja kustannustehokkaana työkaluna valmiiksi päätettyjen vaihtoehtojen välillä valitsemiseen ja antaa luottamuspisteitä valinnalleen. Malli on täysin avoimesti saatavilla ja riittävän pieni toimiakseen paikallisesti. AWS:n kehittämä malli julkaistiin samalla viikolla, kun OpenAI ilmoitti vastaavasta tarjouksesta.

Amazonin distinguished engineer Marc Brooker kehitti projektin nähtyään Jevin ja yrittäessään rakentaa oman versionsa tällaisesta mallista. Brookerin alkuperäinen kotitekoinen projekti menestyi niin hyvin, että AWS:n insinöörit viimeistelivät sen ja julkaisivat sen Strands Labsin kautta. Strands Labs kehittää uusia työkaluja ja protokollia tekoälyagenttien käyttöönottoon.

Brooker selitti, että tarve tällaiselle työkalulle syntyi keskusteluista AWS-asiakkaiden kanssa. Heidän agenttipohjaiset työnkulkunsa eivät aina vaadi täysimittaisten LLM-mallien kapasiteettia tai kustannuksia. Strands Decider tarjoaa asiakkaille työnkulkupalvelun, joka on rakenteeltaan luotettavampi luottamuspisteytyksen ja suljetun vastausalueen ansiosta, samalla kun se on matalamman latenssin ja potentiaalisesti edullisempi.

Kuten muutkin päätösmallit, Strands Decider perustuu suuren kielimallin (LLM) osaan, tässä tapauksessa Qen3.5-2B. Sen sijaan, että se tuottaisi tekstiä, se antaa ennalta määritellyn joukon vaihtoehtoja ja luottamuspisteen valinnalleen.