AI-företaget Anthropic anlitar oberoende säkerhetsgranskare

AI-företaget Anthropic har meddelat ett samarbete med de ideella organisationerna METR och SecureBio. Samarbetet syftar till att utvärdera riskerna och säkerhetsrutinerna för företagets AI-modeller. Detta är en del av Anthropic's bredare åtagande att integrera oberoende granskare i företagets verksamhet.

Meddelandet följer på Anthropic's VD Dario Amodeis tidigare förslag om att bromsa utvecklingstakten för AI-modeller. Vid den tidpunkten lovade Amodei att tredjepartsgranskare skulle hjälpa till att säkerställa efterlevnaden av säkerhetspraxis. Företaget har redan tidigare inlett ett partnerskap med konsultföretaget Accenture.

METR, även känt som Model Evaluation and Threat Research, har tidigare verkat inom en mer diskret sektor av AI-branschen. På senare tid, i takt med att oron för AI-säkerhet har ökat, har betydelsen av oberoende granskare vuxit avsevärt.

President Donald Trump har också uppmuntrat teknikföretag att samarbeta med externa granskare som en del av ett frivilligt avtal som många stora teknikföretag, inklusive Anthropic, har undertecknat. Anthropic betonade i sitt meddelande att de integrerar granskare frivilligt och tror att andra frontlinje-AI-företag bör göra detsamma.