Tekoäly-yritys Anthropic palkkasi riippumattomia turvallisuustarkastajia

Tekoäly-yritys Anthropic on ilmoittanut yhteistyöstä voittoa tavoittelemattomien järjestöjen METR ja SecureBio kanssa. Yhteistyön tavoitteena on arvioida yhtiön tekoälymallien riskejä ja turvallisuuskäytäntöjä. Tämä on osa Anthropicin laajempaa sitoumusta integroida riippumattomia arvioitsijoita osaksi yhtiön toimintaa.

Ilmoitus seuraa Anthropicin toimitusjohtajan Dario Amodein aiempaa ehdotusta tekoälymallien kehitysnopeuden hidastamisesta. Tuolloin Amodei lupasi, että kolmannen osapuolen arvioitsijat auttaisivat varmistamaan turvallisuuskäytäntöjen noudattamisen. Yhtiö on jo aiemmin solminut kumppanuuden Accenture-konsulttiyrityksen kanssa.

METR, joka tunnetaan myös nimellä Model Evaluation and Threat Research, on aiemmin toiminut hiljaisemmalla sektorilla tekoälyteollisuudessa. Viime aikoina, tekoälyn turvallisuuteen liittyvien huolien kasvaessa, riippumattomien arvioitsijoiden merkitys on kasvanut huomattavasti.

Presidentti Donald Trump on myös kannustanut teknologiayrityksiä tekemään yhteistyötä ulkopuolisten arvioitsijoiden kanssa osana vapaaehtoista sopimusta, jonka monet suuret teknologiayritykset, mukaan lukien Anthropic, ovat allekirjoittaneet. Anthropic korosti ilmoituksessaan, että se sisällyttää arvioitsijoita vapaaehtoisesti ja uskoo muidenkin eturintaman tekoäly-yritysten tekevän samoin.