Tutkijat esittelevät painoavaruuden ohjelmoinnin kielimallien optimointiin

MIT:n tietotekniikan ja tekoälyn laboratorion (CSAIL) tutkijat ovat esitelleet "painoavaruuden ohjelmoinniksi" (Weight-Space Programming) kutsutun menetelmän. Sen avulla kehittynyt kielimalli, GPT-6 Astra, pystyy suoraan analysoimaan ja säätämään toisen neuroverkon, Qwen3.5-0.8B:n, sisäisiä painoarvoja.

Tutkimuksessa mallin parametreista muutettiin vain 0,016 prosenttia, mikä nosti sen suoritustasoa MATH-500-matematiikkatestissä huomattavasti. Menetelmä poisti mallin taipumuksen juuttua toistuviin päättelykehiin, jolloin vastausnopeus ja tarkkuus paranivat merkittävästi ilman perinteistä gradienttilaskeutumaan perustuvaa koulutusta.

Kokeessa havaittiin, että menetelmä tehostaa olemassa olevan mallin kapasiteetin hyödyntämistä poistamalla toiminnallisia esteitä. Tutkijoiden mukaan lähestymistapa avaa uusia mahdollisuuksia neuroverkkojen tulkittavuuden ja suoran optimoinnin saralla, vaikka se ei välttämättä luo mallille täysin uusia taitoja.