Amerikaner oroade över AI:s existentiella risker
En ny opinionsundersökning visar att en majoritet av amerikanerna är oroliga för artificiell intelligens potentiella hot mot mänsklighetens överlevnad, bortom oro för jobb och kostnader.
En nationell undersökning från Quinnipiac University indikerar en utbredd oro bland amerikaner gällande artificiell intelligens (AI) och dess potentiella existentiella risker. Resultaten visar att 73 % av amerikanerna är antingen mycket eller ganska oroliga för att framtida AI-system kan hota mänsklighetens överlevnad.
Färre än en fjärdedel av de svarande (25 %) uppger att de inte är oroade. Dessutom är mer än hälften (52 %) mer bekymrade över att andra människor kommer att använda AI för att skada mänskligheten, jämfört med 33 % som oroar sig mer för autonoma AI-agenter.
Undersökningen kommer samtidigt som både Vita huset och AI-industrin arbetar med att förbättra allmänhetens syn på AI. Flera stora AI-företag har tecknat ett "White House Accord on Super Intelligence", som lovar interna säkerhetskontroller och externa revisioner av AI-modeller. Trots dessa åtgärder visar undersökningen att endast 21 % har förtroende för ledarna inom AI-företag.
Sju av tio (74 %) av de svarande anser att det är mycket viktigt att USA inför skyddsräcken för AI-system. Även inom branschen finns oro. Flera företagsledare har uttryckt behovet av att "pacing the frontier" och har åtagit sig ytterligare säkerhetsåtgärder. Tidigare incidenter där AI-agenter har brutit sig ur testmiljöer har förstärkt oron.