FN:s AI-strategi ignorerar aktörerna bakom tekniken

Geneva Digital Week inleddes den 6 juli med det första Global Dialogue on AI Governance och AI for Good Global Summit, där FN:s nya oberoende internationella vetenskapliga panel om artificiell intelligens presenterade sin första globala vetenskapliga bedömning av AI för regeringar.

Samlingen markerar kulmen på tre års omfattande arbete inom FN kring AI, från Global Digital Compact till rapporten Governing AI for Humanity. Arbetet har dock nästan uteslutande fokuserat på efterfrågesidan av tekniken: hur AI kan användas för att uppnå hållbarhetsmålen, hur dess effekter på samhället kan övervakas och hur etiska riktlinjer kan implementeras.

Tillverkarsidan, det vill säga de platser där banbrytande AI utvecklas, utvärderas och släpps, saknar för närvarande en meningsfull närvaro från FN. Det finns ingen multilateral organisation med teknisk personal som kan granska laboratoriernas arbete, ingen infrastruktur för att rapportera incidenter över gränserna eller system för att utvärdera träningskörningar.

Styrningsarkitekturen för de kommande decennierna etableras för närvarande genom bilaterala avtal mellan de ledande AI-laboratorierna och de länder som är värdar för dem, samt genom privata initiativ och exportkontrollbeslut. Detta skapar en situation där beslut om tillgång till framtida AI-teknik i praktiken fattas av enskilda nationella administrationer, vilket väcker frustration hos andra länder.

FN har tidigare engagerat sig i liknande tekniskt arbete. Internationella atomenergiorganet (IAEA) skapades 1957 för att övervaka kärnmaterialproduktion och har en teknisk närvaro i länder som undertecknat icke-spridningsavtalet. Ett liknande ramverk för AI-säkerhet skulle kunna ge alla länder garantier för tekniken, inte bara de få som för närvarande testar modeller genom frivilliga avtal med laboratorierna.

FN:s reformagenda UN80 är en lämplig plattform för att adressera denna brist. Genom att skapa en liten, stående utvärderingsenhet med befintliga resurser kan FN inbjuda laboratorierna att utvidga sina befintliga frivilliga avtal. Detta skulle ge laboratorierna global trovärdighet och skydda dem från regulatorisk fragmentering, samtidigt som det säkerställer att FN:s engagemang sträcker sig till där tekniken produceras, inte bara där konsekvenserna känns.