Anthropic: AI-modell hjälper till att utveckla sig själv

AI-företaget Anthropic har meddelat att dess egenutvecklade AI-modell, Claude, nu aktivt deltar i utvecklingen av nästa generation av sig själv. Enligt företaget leder Claude för närvarande 26 procent av Anthropic forskning och utveckling. Detta innebär att modellen kan slutföra en stor del av uppgifter "end-to-end från en hög-nivå prompt", men fortfarande under mänsklig uppsikt.

Cirka 90 procent av företagets forskning och utveckling sker i "samarbete" med Claude, vilket enligt Anthropic innebär att modellen kan hantera "stora arbetsmoment under nära mänsklig ledning". Detta tillkännagivande kommer vid en tidpunkt då flera ledande AI-personligheter, anförda av Anthropic VD Dario Amodei, efterlyser en inbromsning i utvecklingen av tekniken på grund av säkerhetsrisker.

Anthropic betonar vikten av öppenhet kring AI-utveckling. Företaget menar att modeller som accelererar sin egen utveckling kan göra det svårare för människor att förstå eller kontrollera dessa system. Därför uppmanar man andra AI-utvecklare att regelbundet dela liknande mätvärden och förespråkar en gemensam metodik för att möjliggöra jämförelser över tid och mellan olika aktörer.

Claudes roll i forsknings- och utvecklingsarbetet har ökat snabbt. I februari ledde modellen ingen del av arbetet, men i augusti hade dess andel ökat till en fjärdedel. Företaget presenterade även detaljer om sina tillsynsåtgärder, där cirka 30 000 agenter utförde forsknings- och ingenjörsarbete i augusti. Anthropic har även åtagit sig att anlita externa tredjepartsutvärderare för att övervaka säkerhetsarbetet.