Anthropic antaa ulkopuolisille AI-mallien riskejä arvioivan järjestön pääsyn

Tekoäly-yritys Anthropic on myöntänyt ulkopuoliselle arviointijärjestölle "työntekijämäisen" pääsyn sisäisiin järjestelmiinsä ja laitteistoihinsa arvioimaan sen tekoälymallien riskejä.

Tämän toimenpiteen tavoitteena on lisätä turvatoimia huolenaiheiden keskellä, jotka koskevat tekoälyteknologian mahdollista hallitsematonta kehitystä. METR, voittoa tavoittelematon organisaatio, joka on aiemmin tehnyt yhteistyötä merkittävien tekoälylaboratorioiden, kuten OpenAI:n, Googlen ja Metan, kanssa, on nyt sijoittanut tiiminsä Anthropicin toimitiloihin.

Laajempi rooli kolmannen osapuolen arvioijille on yksi merkittävimmistä konkreettisista toimista, joita tekoälylaboratoriot ovat ehdottaneet vastauksena kasvavaan huoleen kehittyneempien tekoälyjärjestelmien mahdollisista vaaroista taloudelle, kyberturvallisuudelle ja ihmiskunnalle laajemmin.

Kyseinen pääsy mahdollistaa kattavamman ja syvällisemmän riskianalyysin, jonka avulla pyritään ennakoimaan ja lieventämään mahdollisia negatiivisia seurauksia tekoälyn kehittyessä.