Teknikledare och länder reagerar på Amodeis uppmaning att sakta ner AI

Anthropic VD Dario Amodei har uppmanat AI-företag att sakta ner utvecklingen av allt kraftfullare "frontier AI-modeller". I en essä varnade Amodei för att AI-kapaciteten utvecklas snabbare än säkerhetsåtgärderna och efterlyste striktare testning, oberoende utvärderingar samt samordning mellan ledande AI-företag och internationellt samarbete.

Uppmaningen har mötts av blandade reaktioner från teknikjättar och ledande personer inom branschen. OpenAI:s VD Sam Altman instämmer med Amodei och meddelade att OpenAI kommer att ge oberoende utvärderare liknande åtkomst till sina system som anställda. Även Elon Musk och Google DeepMinds ordförande Demis Hassabis har uttryckt sitt stöd för Amodeis synsätt.

Amazon menar att det inte finns någon motsättning mellan framsteg och säkerhet, och att modeller endast bör släppas när de är redo och säkra efter rigorös testning. Microsofts AI-chef Mustafa Suleyman delar Anthropicens fokus på säkerhetshantering, men kritiserar Anthropicens resonemang kring AI-medvetande och välbefinnande.

Meta och Nvidia har valt en annan väg. Metas VD Mark Zuckerberg anser att enskilda företag bör bedöma riskerna med sina system och bestämma lämplig utvecklingstakt. Nvidias VD Jensen Huang menar att företagen har ett eget ansvar att säkerställa att deras teknologier är säkra.

Kinesiska myndigheter har reagerat med skepsis. Kinas utrikesdepartement uppmanade till en "öppen, inkluderande och välvillig" inställning till AI. Staten-kontrollerade Global Times beskrev Amodeis förslag som en "kallt krig-strategi" riktad mot Kina, med syftet att hämma landets AI-utveckling. Kinesiska tjänstemän har också varnat för riskerna med avancerade amerikanska AI-system för Kinas kritiska infrastruktur.