Thinking Machines släpper sin första öppna AI-modell, Inkling
Vad det är: Thinking Machines Lab har lanserat sin första proprietära AI-modell, Inkling. Modellen är designad för att vara anpassningsbar och syftar till att konkurrera med enhetsanpassade AI-modeller.
AI-startupen Thinking Machines Lab, grundad av före detta OpenAI CTO Mira Murati, släppte på onsdagen sin första proprietära AI-modell kallad Inkling. Till skillnad från flaggskeppsmodellerna från OpenAI, Anthropic eller Google är Inkling en öppen modell (open-weight), vilket innebär att externa utvecklare och företag kan ladda ner den och modifiera den direkt.
Inkling är ett 'mixture-of-experts'-system med totalt 975 miljarder parametrar, även om den bara använder en bråkdel av dessa, cirka 41 miljarder, för en given uppgift. Denna design gör mycket stora modeller snabbare och billigare att köra. Modellen tränades på 45 biljoner tokens av text, bild, ljud och video och resonerar internt över alla dessa format, enligt företagets egna pressmaterial.
Detta är företagets första offentliga bevis på dess arbete under ett och ett halvt år, under vilken tid de i stort sett byggt AI-infrastruktur utanför offentlighetens ljus. En del av detta arbete visades redan upp i en forskningsförhandsgranskning i maj av "interaktionsmodeller" – AI designad för att lyssna och tala (och till och med avbryta) istället för att stanna och vänta som med typiska chatbots. Det är också ett test av det centrala antagandet bakom Thinking Machines: att AI som organisationer kan anpassa själva kommer att överträffa de enhetsanpassade modellerna som de största laboratorierna för närvarande säljer.
Det är en intressant modell som är utformad för att ge kalibrerade svar, inklusive att markera osäkerhet istället för att gissa, och som låter användare justera "tänkeinsatsen" upp eller ner för att handla med hastighet. På ett benchmark säger företaget att Inkling använder en tredjedel så många tokens som Nvidias Nemotron 3 Ultra för att uppnå samma kodprestanda. Det är värt att notera att Thinking Machines inte hävdar att Inkling är den bästa modellen på marknaden. Deras briefmaterial anger uttryckligen att Inkling "inte är den starkaste modellen som finns tillgänglig idag, varken sluten eller öppen".