Anthropic löysi tekoälymallistaan sisäisen 'työtilan'

Tekoäly-yritys Anthropic raportoi sunnuntaina löytäneensä kehittyneen sisäisen rakenteen kielimallistaan Claude. Tutkimus paperi kuvaa, kuinka malli on kehittänyt itsenäisesti 'J-tilan', joka toimii sisäisenä työtilana ja muistuttaa ihmisen tietoisuutta selittävää globaalia työtilateoriaa.

Tutkimuksessa käytettiin uutta matemaattista tekniikkaa, jota kutsutaan Jacobian linssiksi (J-lens), paljastamaan Clauden hermoverkon sisäistä toimintaa. Heidän mukaansa J-tila on pieni alue, jossa malli käsittelee tietoa, jota se voi raportoida ja käyttää päättelyyn. Tämä tila on erillään laajemmasta automaattisesta prosessoinnista, johon mallilla ei ole suoraa pääsyä.

Tutkijat esittävät, että tämä toiminnallinen ero on syntynyt itsestään osana Clauden koulutusprosessia. He vertaavat J-tilaa aivojen toimintaan, jossa vain pieni osa tietoa broadcastataan tietoisuuteen kerrallaan. J-tilan löytyminen voi vaikuttaa siihen, miten tekoälymalleja valvotaan turvallisuusriskien varalta.

J-tilan on havaittu täyttävän viisi keskeistä ominaisuutta, jotka liittyvät ihmisen tietoisuuteen: kyky raportoida sisäisiä tiloja, modulaatio eli kyky ohjata sisäistä prosessointia, sisäinen päättelykyky, joustava yleistys eri tehtäviin sekä selektiivisyys, jossa vain osa laskennasta reitittyy työtilan kautta.