Anthropic ger extern AI-granskningsorganisation tillgång till sina modeller

AI-företaget Anthropic har gett en extern granskningsorganisation "anställningsliknande" tillgång till sina interna system och hårdvara för att utvärdera riskerna med dess AI-modeller. Åtgärden syftar till att öka skyddsåtgärderna mot oro för att tekniken ska utvecklas okontrollerat.

METR, en ideell organisation som tidigare samarbetat med ledande AI-laboratorier som OpenAI, Google och Meta, har nu ett team stationerat hos Anthropic med tillgång till deras hårdvara och interna system.

En större roll för tredjepartsutvärderare är ett av de viktigaste konkreta stegen som laboratorierna har föreslagit som svar på den ökande oron för de potentiella farorna med mer kapabla AI-system för ekonomin, cybersäkerheten och mänskligheten.

Denna tillgång möjliggör en mer omfattande och djupgående riskbedömning, i syfte att förutse och mildra potentiella negativa konsekvenser i takt med att AI-tekniken utvecklas.