Anthropic VD föreslår en inbromsning av AI-utvecklingen

Anthropic VD Dario Amodei har föreslagit att utvecklingstakten för artificiell intelligens (AI) bör sänkas. Amodei presenterade en treledsplan som syftar till att ge företag och tillsynsmyndigheter mer tid att bygga skyddsåtgärder och utvärdera avancerade AI-modeller.

För att säkerställa modellernas säkerhet kommer Anthropic att ge tredjepartsutvärderare, såsom METR, åtkomst till de AI-modeller företaget utvecklar. Amodei beskrev detta som ett första steg som företaget nu tar unilateralt. Han menar att det är "dags att bromsa utvecklingen" för betydande AI-modeller.

Det andra steget i planen skulle kräva samarbete inom hela AI-branschen, möjligen med inblandning av regeringar. Amodei specificerade dock inte vilka praktiska åtgärder eller avtal detta skulle kunna innebära. Det tredje steget i planen beskrevs inte i detalj i det publicerade uttalandet.

Amodei betonade behovet av att säkerställa att AI-utvecklingen förblir hanterbar och att dess potentiella risker identifieras och adresseras innan nya, mer kraftfulla modeller lanseras. Förslaget kommer vid en tidpunkt då den snabba utvecklingen av AI väcker både entusiasm och oro för dess samhälleliga konsekvenser.