AI-ledare föreslår plan för att styra utvecklingen

Anthropic VD Dario Amodei har presenterat en plan för att "taktsätta frontlinjen" inom AI-utvecklingen. Förslaget lanserades en vecka efter att en varning om AI:s potentiella risker från en Anthropic-forskare skakade branschen.

Amodeis strategi betonar vikten av oberoende säkerhetsgranskningar och samarbete mellan AI-laboratorier i demokratiska länder. Syftet är att hantera utvecklingstakten och säkerställa säkerheten i takt med att AI-tekniken fortskrider.

Förslaget har mötts av visst branschstöd, men också av kritik. Jensen Huang från Nvidia har uttryckt invändningar mot initiativet, vilket belyser interna debatter inom AI-sektorn gällande styrningsmodeller.

Initiativet syftar till att adressera den ökande oron kring AI:s potentiella faror och dess snabba framsteg. Det understryker behovet av proaktivt säkerhetsarbete och internationellt samarbete för att hantera de alltmer avancerade nivåerna av artificiell intelligens.