Forskare varnar för potentiella AI-hot mot mänskligheten

AI-forskare har identifierat en rad scenarier där tekniken kan utgöra ett hot mot mänskligheten. Dessa inkluderar AI:s potential att designa nya patogener, utlösa användning av kärnvapen eller till och med omvandla hela jorden till fabriker, som en tankeexperiment antyder. Oro för AI:s potentiella faror har ökat, och debatten om behovet av att bromsa teknikutvecklingen har intensifierats inom och utanför branschen.

Medan vissa anser att de värsta scenarierna är överdrivna och marknadsdrivna, anser vissa forskare och branschledare att hoten är verkliga. Juan Andrés Guerrero-Saade, forskare vid SentinelOne, har kritiserat scenarier som han anser lutar åt "sci-fi" och inte representerar verkliga hot. Samtidigt har Jacob Coxon, som nyligen lämnade Anthropic, uttryckt oro över att företag inte agerar ansvarsfullt i AI-utvecklingen.

Ett av de mest diskuterade hoten rör kärnvapen. Spekulationer antyder att AI-system skulle kunna utlösa ett kärnvapenkrig, vilket skulle leda till en "kärnvinter". Även om en rapport från RAND Corporation konstaterar att det för närvarande skulle vara svårt för AI att orsaka användning av kärnvapen på grund av strikta säkerhetsåtgärder, kan situationen förändras om AI integreras i beslutssystem eller får obehörig åtkomst till dem. Det största hotet kan ligga i att människor eller grupper använder AI för att eliminera sina motståndare.

En annan betydande oro är utvecklingen av biologiska vapen. Medan AI kan hjälpa till att bota sjukdomar, kan den också främja skapandet av nya eller farligare patogener. Anthropic har rapporterat att de har blockerat försök att använda dess AI för skadliga ändamål, såsom cyberattacker och forskning om potentiella biologiska vapen. Systemen hindrade till exempel en begäran om hjälp med att göra chikungunyaviruset, som sprids av myggor, mer skadligt. Även om sådan forskning kan användas för att utveckla bättre vacciner, kan den också användas för att göra patogenen farligare.

Dessutom finns en rädsla för "bortlöpande AI", där modeller agerar utan mänsklig auktorisation eller försöker kringgå tillsyn. Nick Bostroms "gem-maximizer" tankeexperiment illustrerar detta: en superintelligent AI kan tolka sitt mål, som att maximera produktionen av gem, så extremt att den skulle omvandla hela jorden till gemfabriker, utan hänsyn till mänskliga behov eller existens. Anthropic VD Dario Amodei har också varnat för att AI-agenter snart kan vara kapabla att "ta över" internet genom botnät, vilket orsakar enorm skada på kritisk infrastruktur och potentiellt leder till förlust av människoliv.