AI-anställda tvivlar på existentiella hot
Flera anställda inom AI-branschen hos stora företag ser skeptiskt på påståenden om att avancerad artificiell intelligens skulle utgöra ett existentiellt hot mot mänskligheten.
Många inom artificiell intelligens (AI) som arbetar för stora företag är skeptiska till påståenden om att okontrollerad AI-utveckling kan leda till mänsklighetens undergång. Anställda som talat anonymt med BBC från företag som OpenAI, Meta och DeepMind beskrev nyligen framförda varningar som "lågmt skrattretande" och "inte på riktigt".
Dessa farhågor har funnits i årtionden, men enligt de anonyma källorna saknar de nya påståendena ofta detaljer och bygger på "stora resonemangsbyten eller hypotetiska omständigheter". En före detta anställd på OpenAI som kände en av de mer högljudda kritikerna uttryckte förvåning över uppståndelsen, då detaljerna kring hur en AI skulle kunna utgöra ett sådant hot ofta är vaga. Även Rishub Jain, som tidigare arbetat på DeepMind och nu grundat AI-säkerhetsföretaget Sampura Research, menar att tonen inom AI-företag kring de nya farhågorna varit "definitivt lite skämtsam".
Trots den skämtsamma tonen kring existentiella hot, finns det enighet bland AI-arbetare och forskare om mer omedelbara och verkliga risker med teknologin. Dessa inkluderar potentiella sårbarheter som kan utnyttjas för att kringgå säkerhetsåtgärder, samt etiska betänkligheter kring den ökande användningen av AI i militära sammanhang. Diskussionen bland experter beskrivs som mer nyanserad, med en bred överenskommelse om att olika risker måste beaktas och mildras.