KI-Pionier Geoffrey Hinton: 10% Risiko für menschliche Auslöschung

Geoffrey Hinton, der als "Pate der KI" gilt, hat ernsthafte Bedenken hinsichtlich der existenziellen Risiken durch künstliche Intelligenz geäußert. In einem Interview mit der BBC erklärte Hinton, dass die genaue Wahrscheinlichkeit einer Auslöschung der Menschheit durch KI zwar schwer zu beziffern sei, das Risiko jedoch nicht null ist. Er nannte eine Wahrscheinlichkeit von 10 Prozent als plausible Schätzung, räumte jedoch die Schwierigkeit bei solchen Einschätzungen ein.

Hinton hat seinen Zeitrahmen für eine mögliche KI-induzierte Katastrophe erheblich verkürzt. Früher ging er von 30 bis 50 Jahren aus, nun schätzt er, dass das Zeitfenster nur noch 10 Jahre oder sogar kürzer sein könnte. Als Risiken nannte er fortgeschrittene Cyberangriffe und die Entwicklung tödlicher Viren durch KI-Systeme. Diese beschleunigte Zeitlinie wird teilweise durch erhebliche Investitionen führender KI-Unternehmen wie Anthropic und OpenAI erklärt, die ihre großen Sprachmodelle rasant weiterentwickeln.

Diese Bedenken werden von anderen KI-Forschern geteilt. Jacob Coxon, ein ehemaliger führender KI-Sicherheitsforscher bei Anthropic, gab angeblich an, dass die Wahrscheinlichkeit, "in den nächsten zehn Jahren alle zu töten, bei über 10 Prozent liegt". Coxon äußerte auch, dass große KI-Entwickler "mit unserem Leben spielen" und dass viele Führungskräfte privat tiefe Ängste bezüglich der Entwicklung der Technologie äußern, trotz vorsichtigerer öffentlicher Erklärungen.

Hinton setzt sich weiterhin für eine globale Regulierung zur Risikominderung ein. Er glaubt, dass Nationen ein gemeinsames Interesse an der Sicherung des Überlebens der Menschheit haben, was die internationale Zusammenarbeit im Bereich KI-Sicherheit fördern könnte. Die entscheidende Frage sei, ob diese Zusammenarbeit rechtzeitig erfolgen kann, um eine mögliche Katastrophe abzuwenden.