IBM lanserar nya Granite 4.2-modeller för lokala LLM-tillämpningar
IBM har släppt nya versioner av sina Granite 4.2 stora språkmodeller, designade för nedladdning och självhosting. Modellerna finns tillgängliga i varianter med 3B, 8B och 30B parametrar.
IBM har lanserat de senaste modellerna i sin familj av öppna stora språkmodeller, avsedda att laddas ner och driftas lokalt. Nya Granite 4.2-familjen inkluderar varianter med 3, 8 och 30 miljarder parametrar.
I likhet med tidigare versioner använder IBM en decoder-only-strategi för dessa modeller. De nya utgåvorna erbjuder ett kontextfönster på 128 000 tokens som standard.
Varianterna med 8B och 30B parametrar har genomgått en agentbaserad förstärkningsinlärningsprocess, vilket ger dem utökade förmågor. Dessa inkluderar möjligheten att använda externa verktyg, som webbsökningar eller terminalkommandon. Även 3B-modellen stödjer verktyg, men med en mindre specialiserad träning.
Tillgången till lokalt driftbara språkmodeller svarar mot ett ökat intresse för AI-lösningar som erbjuder förbättrad datasäkerhet och anpassningsmöjligheter för organisationer.