Anthropicin tekoälyavustaja osallistuu mallin kehitykseen

Tekoäly-yhtiö Anthropic on paljastanut, että sen kehittämä Claude-tekoälymalli osallistuu aktiivisesti oman seuraavan version kehitykseen. Yhtiön mukaan malli johtaa tällä hetkellä 26 prosenttia Anthropicin mallitutkimuksesta ja -kehityksestä. Tämä tarkoittaa, että Claude pystyy suorittamaan suuren osan tehtävistä itsenäisesti korkean tason kehotteiden perusteella, mutta ihmisvalvonta on edelleen välttämätöntä.

Yhtiön mukaan noin 90 prosenttia tutkimus- ja kehitystyöstä tehdään yhteistyössä Clauden kanssa. Malli kykenee hoitamaan suuria työtehtäviä ihmisten tiukassa ohjauksessa. Ilmoitus tulee aikaan, jolloin monet tekoälyalan johtohahmot, mukaan lukien Anthropicin toimitusjohtaja Dario Amodei, ovat vaatineet teknologian kehityksen hidastamista turvallisuushuolien vuoksi.

Anthropic korostaa tarvetta tiedon jakamiselle tekoälyn kehityksestä ja sen vaikutuksista yhteiskuntaan. Yhtiön mukaan mallien nopeutettu itsekehitys voi vaikeuttaa ihmisten ymmärrystä ja hallintaa näistä järjestelmistä. Siksi se kehottaa muita kehittäjiä jakamaan vastaavia mittareita julkisesti, jotta kehitystä voidaan seurata ja verrata eri toimijoiden välillä.

Malli on kehittynyt nopeasti tutkimustyössä. Vielä helmikuussa Claude ei johtanut yhtään tutkimusosuutta, mutta elokuuhun mennessä sen osuus oli jo neljännes. Yhtiö kertoi myös valvontatoimistaan, joissa elokuussa oli mukana noin 30 000 tutkimus- ja insinöörityötä tekevää agenttia. Lisäksi Anthropic on sitoutunut ulkopuolisten arvioijien käyttämiseen turvallisuustoimiensa valvonnassa.