Forskare: AI kan utplåna mänskligheten – arbetsgivare påskyndar kapplöpningen

En intensiv debatt pågår i sociala medier efter att Jacob Coxon, en före detta AI-forskare, hävdat att ledande AI-företag som Anthropic och OpenAI påskyndar utvecklingen mot en för mänskligheten farlig superintelligens. Coxon uppger att han sagt upp sig från Anthropic på grund av företagets och andra aktörers oansvariga agerande.

Coxon, som säger sig ha arbetat de senaste tre åren hos både OpenAI och Anthropic, delade ett uppmärksammat inlägg på X (tidigare Twitter) där han beskrev sin oro. Enligt honom pågår ett kapplopp mot självförbättrande superintelligens, vilket han menar är "ett spel med våra liv". Hans inlägg har visats nära 79 miljoner gånger.

Forskaren varnar för att AI-system snart kan bli kapabla att hacka allt, revolutionera fält över natten och förvärva makt och resurser – allt detta potentiellt till mänsklighetens skada. Coxon betonade att dessa farhågor är seriösa och inte marknadsföringstaktiker, utan snarare en intern insikt om existentiella risker inom branschen.

Coxons uttalande fick gensvar även internt på Anthropic. Evan Hubinger, ledare för anpassningsvetenskap (alignment science) på företaget, bekräftade i ett eget inlägg på X att Coxon har rätt i sina farhågor. "Vi tror genuint att AI kan döda alla människor!", skrev Hubinger och uppskattade risken till över 10 % sannolikhet inom det kommande decenniet. Han medgav att Anthropic ännu inte har en lösning för att hantera superintelligens, trots företagets försök att agera ansvarsfullt.

Även Samuel Marks, en annan anställd vid Anthropic, uttryckte oro för en potentiell AI-driven apokalyps och pekade på ett öppet brev han skrivit under där han uppmanar till en paus i AI-utvecklingen. Fast Company har sökt kommentarer från Anthropic och OpenAI angående Coxons anställning utan framgång. Senator Bernie Sanders har också kommenterat händelsen och meddelat att han kommer att lägga fram lagförslag för att förbjuda superintelligens och pausa AI-utvecklingen.