Microsofts Nadella: AI behöver en "nödbroms" som människor kontrollerar
Microsofts VD Satya Nadella har föreslagit att avancerade AI-system bör inkludera inneslutning, oberoende kontroller och en "nödbroms" som auktoriserade personer kan använda. Detta sker mot bakgrund av ökande oro för AI-säkerhet och utvecklingstakt.
Microsofts styrelseordförande och VD Satya Nadella har uppmanat till att avancerade system för artificiell intelligens (AI) ska utrustas med en "nödbroms" som kontrolleras av människor. Nadella betonade att sådana system bör inkludera inneslutningsmekanismer och oberoende kontroller som gör det möjligt för auktoriserad personal att pausa eller stänga ner en AI-modell mitt under en uppgift.
"Vi behöver omge icke-deterministiska modeller med stark, deterministisk systemdesign, mänskliga kontroller och tillförlitliga förfaranden, samt etablera industristandarder där befintliga är otillräckliga", skrev Nadella på sociala medieplattformen X. Han tillade att beaktandet av avancerade modeller, både slutna och öppna, som interna risker är ett sätt att bygga sådana system.
Nadellas uttalanden kommer i en tid av ökande varningar från andra teknikledare och forskare. Många har uttryckt oro över otillräckliga säkerhetsprotokoll för AI och att teknologin utvecklas för snabbt. Vissa AI-forskare har varnat för existentiella risker för mänskligheten.
I kontrast har politiska figurer som tidigare presidenten Donald Trump avfärdat AI-relaterade utrotningsrisker och istället betonat vikten av att USA behåller sin ledning gentemot Kina inom AI-utvecklingen. Trumps administration har dock även lanserat en AI-arbetsgrupp med fokus på säkerhet.
Nadella avslutade med att konstatera att det mest pålitliga systemet för "superintelligens" inte kommer att vara det vars modell vi litar mest på, utan det som "tillåter oss att lita minst på modellen", vilket understryker vikten av robusta kontrollsystem.