AI-forskare varnar för existentiellt hot från superintelligens

AI-forskare har uttryckt djup oro över de potentiella farorna med utvecklingen av superintelligens. Flera forskare, inklusive tidigare anställda vid OpenAI och Google DeepMind, varnar för att avancerad artificiell intelligens kan utgöra ett existentiellt hot mot mänskligheten.

Palisade Research, en organisation som studerar AI:s kapacitet och motivationer, har samlat och lanserat en serie intervjuer med dessa experter. Geoffrey Irving, en före detta anställd vid både OpenAI och Google DeepMind, uppskattar sannolikheten för mänsklighetens utrotning till cirka 50 procent och säger att "superintelligens är precis så farligt som det låter".

Andra forskare delar dessa farhågor. Neel Nanda, forskare vid Google DeepMind, uppskattar att det finns "minst 10 procents chans att det orsakar mänsklighetens utrotning". Intervjuerna inkluderar nuvarande och tidigare anställda från ledande AI-laboratorier som OpenAI, Google och Anthropic.

Experternas varningar understryker vikten av etisk och säker styrning av AI-utvecklingen. Att förstå och hantera riskerna med avancerad AI anses vara avgörande för mänsklighetens framtid.