Googles AI-chef föreslår att USA leder standardiseringsorgan

Demis Hassabis, ledare för Google DeepMind, föreslog på tisdagen att USA bör ta täten i att inrätta ett standardiseringsorgan. Detta organ skulle vara ansvarigt för att testa nya, avancerade AI-modeller och bedöma potentiella nationella säkerhetsrisker, inklusive cybersäkerhet och biologiska hot.

Hassabis, som också är Nobelpristagare, betonade i ett inlägg på X att "brådskande åtgärder" krävs för att hantera riskerna med artificiell generell intelligens (AGI), den punkt där AI förväntas matcha eller överträffa mänsklig intelligens.

"Vi har redan sett utmaningarna som gränsmodeller innebär för cybersäkerheten, och andra hot som kärnvapen och biologiska risker kan snart uppstå i takt med att kapaciteten fortsätter att utvecklas", sa Hassabis. Han föreslog en federalt tillsynen offentlig-privat partnerskap som en lösning för att hantera dessa risker.

Förslaget kommer samtidigt som kapplöpningen mellan USA och Kina för att utveckla och implementera AI-modeller intensifieras. Hassabis menade att USA, givet sin ekonomiska och tekniska ställning, är väl positionerat för att leda utvecklingen av ett AI-ramverk. Han föreslog en modell liknande FINRA, med en styrelse av tekniska experter och representanter från öppen källkod-gemenskapen.