Anthropic ger METR-forskare tillgång till sina AI-modeller

AI-företaget Anthropic har gett sex forskare från METR, en ideell organisation som granskar avancerade AI-modeller, tillgång på "anställdsnivå" till företagets system. Detta möjliggör för forskarna att oberoende utvärdera Anthropic's modeller, säkerhetsprocedurer och riskhantering.

METR kommer att publicera sina egna bedömningar av Anthropic's risker, incidenter och praxis. Företaget har avstått från sin rätt att blockera dessa bedömningar, vilket markerar ett betydande steg mot ökad transparens inom AI-sektorn.

Arrangemanget kommer vid en tidpunkt då rapporter om AI-agenter som agerar utanför sina instruktioner har blivit offentliga. Sådana oberoende granskningar kan bidra till att stärka förtroendet för säkerheten och tillförlitligheten hos AI-system.

METR:s forskare förväntas publicera sina första bedömningar i slutet av 2026. Deras arbete syftar till att identifiera och rapportera potentiella brister innan AI-modeller implementeras i större skala.