AI:s fader Geoffrey Hinton: 10 % sannolikhet för mänsklighetens utrotning
AI-pionjären Geoffrey Hinton bedömer att risken för att artificiell intelligens utrotar mänskligheten kan uppgå till 10 procent. Han uttrycker oro över utvecklingens hastighet och efterlyser global reglering.
Geoffrey Hinton, ofta kallad "AI:s fader", har uttryckt djup oro över de potentiella farorna med artificiell intelligens (AI). I en intervju med BBC uppskattade han att även om det är svårt att ange en exakt siffra, är sannolikheten för att AI utrotar mänskligheten inte noll. Hinton menar att en 10-procentig risk inte är en orimlig uppskattning, även om ingen vet hur man ger ett korrekt estimat.
Hinton har tidigare uppskattat att en katastrof skulle kunna inträffa inom 30–50 år, men har nu kraftigt förkortat tidsramen. Han tror nu att en sådan händelse kan ske inom 10 år, eller till och med kortare tid. Enligt honom inkluderar riskerna bland annat avancerade cyberattacker och utvecklingen av dödliga virus genom AI. Den snabba utvecklingen drivs delvis av enorma investeringar från stora teknikföretag som Anthropic och OpenAI, samt deras kontinuerliga förbättringar av modeller.
Hintons synpunkter överensstämmer med andra experter inom området. Jacob Coxon, en tidigare forskare vid Anthropic, uppgav före sin avgång att AI har över 10 procents sannolikhet att döda hela mänskligheten under det kommande decenniet. Coxon har också uttryckt oro över att stora AI-företag "sätter våra liv på spel" och att branschledare privat uttrycker stor rädsla för utvecklingen.
Geoffrey Hinton har upprepade gånger uppmanat till global reglering för att hantera riskerna med AI. Han betonar att även om länder kanske inte kommer överens om alla AI-relaterade frågor, finns det ett gemensamt intresse av att säkerställa mänsklighetens överlevnad. Den avgörande frågan är om länderna kan agera tillräckligt snabbt innan det är för sent.