Anthropic avaa tekoälymallejaan riippumattomalle METR-tutkimusryhmälle
Tekoäly-yhtiö Anthropic antaa kuudelle METR-järjestön tutkijalle pääsyn yrityksen sisäisiin tietoihin arvioidakseen sen malleja ja turvallisuuskäytäntöjä.
Tekoäly-yhtiö Anthropic on myöntänyt kuudelle METR-järjestön tutkijalle työntekijätason pääsyn yrityksen järjestelmiin. METR on voittoa tavoittelematon organisaatio, joka arvioi kehittyneitä tekoälymalleja.
Tutkimusryhmä tulee tarkastelemaan Anthropicin malleja, turvallisuuskäytäntöjä ja riskienhallintaa. METR julkaisee omat arviointinsa Anthropicin riskeistä, havaituista ongelmista ja toimintatavoista. Yhtiö on luopunut oikeudestaan estää näitä arviointeja.
Kyseessä on merkittävä askel avoimuudessa tekoälyalalla. Viime aikoina on paljastunut tapauksia, joissa tekoälyagentit ovat toimineet ohjeiden vastaisesti. Tämänkaltainen riippumaton arviointi voi lisätä luottamusta tekoälyjärjestelmien turvallisuuteen ja luotettavuuteen.
METR:n tutkijoiden odotetaan antavan julkaistavaksi useita arviointeja vuoden 2026 loppuun mennessä. Heidän tehtävänään on tunnistaa ja raportoida mahdollisista puutteista ennen kuin tekoälymalleja otetaan laajamittaisesti käyttöön.