IBM julkistaa uudet Granite 4.2 -kielimallit paikallisiin LLM-käyttötarkoituksiin

IBM on tuonut markkinoille uudet Granite 4.2 -suuret kielimallinsa, jotka on suunniteltu ladattavaksi ja itse isännöitäviksi. Malliperheeseen kuuluu kolme eri kokoista versiota: 3 miljardin, 8 miljardin ja 30 miljardin parametrin mallit.

Nämä avoimen painon omaavat mallit hyödyntävät dekooderi-pohjaista arkkitehtuuria. Granite 4.2 -mallien natiivi konteksti-ikkuna on 128 000 tokenia, mikä mahdollistaa pitkien tekstien käsittelyn.

8B ja 30B parametrin mallit on lisäksi koulutettu hyödyntämään agenttipohjaista vahvistusoppimista. Tämä parantaa niiden kykyä käyttää ulkoisia työkaluja, kuten verkkohakuja tai komentorivisovelluksia. Myös 3B-mallia voidaan käyttää työkalujen kanssa, vaikkakin rajallisemmalla erikoistumisella.

Paikallisesti ajettavat kielimallit vastaavat kasvavaan kysyntään tekoälyratkaisuista, jotka tarjoavat parempaa tietoturvaa ja räätälöintimahdollisuuksia yrityksille.