Bank of Englands chef: "Reglering av AI är inte rätt plats att börja"

Andrew Bailey, chef för Bank of England, har framfört att reglering av artificiell intelligens (AI) "inte är rätt plats att börja". Han förespråkar istället "noggrann" testning för att identifiera sårbarheter och utveckla skyddsåtgärder för att begränsa risker.

Bailey, som skrev sin första artikel någonsin för Substack, beskrev riskerna kring AI som "verkliga och alltmer betydande". Han menade dock att AI:s utveckling inte bör stoppas eller förbjudas, "tvärtom är fördelarna enorma", men att det måste finnas ett system för ingripanden och för att etablera ramar inom vilka AI verkar.

Debatten om de potentiella riskerna med den snabba utvecklingen av AI och dess konsekvenser för mänskligheten har intensifierats under de senaste veckorna. Ledare för ledande AI-företag som Anthropic och OpenAI har uppmanat till en nedtrappning av teknikutvecklingen och en internationellt samordnad strategi för riskbedömning och införande av skyddsåtgärder. OpenAI meddelade nyligen att de skjuter upp lanseringen av sin senaste AI-modell på grund av säkerhetsbekymmer.

I Storbritannien pågår "viktigt arbete" med att testa AI, och landet har inrättat ett AI-säkerhetsinstitut. Bailey anser att detta arbete bör ligga till grund för en uppsättning standarder. "Men utvecklingstakten måste accelerera", sade centralbankschefen, även om han tillade: "Vi bör gå framåt med en viss grad av ödmjukhet."

Bailey noterade att testning kommer att leda till misslyckanden och att "modeller kommer att bete sig oväntat". Han betonade dock att detta inte är ett bevis på att testningen har misslyckats, utan snarare ett bevis på varför testning är nödvändig. Han klargjorde dock att testning inte bör ses som ett alternativ till framtida reglering – en mer formell regleringsram kan komma att uppstå över tid. "Men reglering är, enligt min mening, inte rätt plats att börja."