Anthropic varoittaa lähestyvästä rekursiivisen itseparannuksen vaiheesta
Tekoälykehittäjä Anthropic on tuonut esiin riskejä, jotka liittyvät tekoälymallien kykyyn kehittää itseään. Yrityksen mukaan tämä ominaisuus voi nopeuttaa kehitystä merkittävästi.
Tekoäly-yhtiö Anthropic on tuoreessa SEC-raportissaan nostanut esiin kehityssuunnan, jossa tekoälymallit kykenevät rekursiiviseen itseparannukseen (RSI). RSI tarkoittaa vaihetta, jossa tekoäly pystyy kouluttamaan itseään ja siten kiihdyttämään omien kykyjensä kehitystä.
Yhtiö huomioi raportissaan, että vaikka tekoälyn käyttö tutkimus- ja kehitystyössä tarjoaa mahdollisuuksia, se sisältää myös huomattavia turvallisuusriskejä. Anthropicin mukaan tekoälyn hyödyntäminen entistä tehokkaampien mallien rakentamisessa voi johtaa kehityksen hallitsemattomaan kiihtymiseen.
Anthropic on ilmoittanut noudattavansa vastuullisen skaalaamisen politiikkaa (Responsible Scaling Policy) hallitakseen RSI:hen liittyviä haasteita. Yhtiön mukaan tavoitteena on seurata ja minimoida riskejä, jotka saattavat syntyä, kun tekoäly kehittää omaa toimintaansa.