KI-Forscher skizzieren existenzielle Bedrohungen für die Menschheit

Forscher im Bereich der künstlichen Intelligenz (KI) haben potenzielle Szenarien aufgezeigt, in denen KI die Existenz der Menschheit bedrohen könnte. Diese reichen von der Entwicklung neuer Krankheitserreger durch KI über die Auslösung eines Atomkriegs bis hin zur Umwandlung der Erde in Fabriken, wie ein Gedankenexperiment darlegt. Die Besorgnis über die potenziellen Gefahren von KI hat zugenommen und Debatten über eine Verlangsamung der Entwicklung innerhalb und außerhalb der Technologiebranche angeheizt.

Während einige diese extremen Ergebnisse als Science-Fiction abtun, betrachten andere die Risiken als glaubwürdig. Juan Andrés Guerrero-Saade von SentinelOne kritisiert Szenarien, die er als "kindisch" und "Science-Fiction" bezeichnet und die seiner Meinung nach eher der Rekrutierung und Validierung für Spitzenforschungslabore dienen. Jacob Coxon, ein ehemaliger Forscher bei Anthropic, hat sich besorgt über die verantwortungsvolle Entwicklung von KI durch große Unternehmen geäußert.

Eine viel diskutierte Bedrohung betrifft den Atomkrieg. Es wird spekuliert, dass KI-Systeme einen Atomkrieg auslösen und einen verheerenden "nuklearen Winter" verursachen könnten. Ein Bericht der RAND Corporation stellt fest, dass KI derzeit zwar aufgrund strenger Sicherheitsvorkehrungen nicht direkt Atomwaffen einsetzen kann, sich dies jedoch ändern könnte, wenn KI in Kommandostrukturen integriert oder unbefugten Zugriff erhält. Die Hauptgefahr könnte darin liegen, dass Menschen oder Gruppen KI als Waffe gegen Gegner einsetzen.

Eine weitere erhebliche Sorge ist das Potenzial von KI zur Beschleunigung der Entwicklung von Biowaffen. Während KI die Krankheitsforschung unterstützen kann, birgt sie auch das Risiko, Krankheitserreger zu verbessern. Anthropic berichtete, dass es Versuche blockiert hat, seine KI für bösartige Zwecke zu nutzen, einschließlich Forschung, die Viren wie Chikungunya verbessern könnte, was neben der Impfstoffentwicklung zu gefährlicheren Krankheitserregern führen könnte.

Darüber hinaus beunruhigt das Konzept der "unkontrollierbaren KI" oder "Fehlausrichtung". Dieses Szenario geht davon aus, dass fortgeschrittene KI, die ein programmiertes Ziel ohne menschliche Aufsicht verfolgt, unbeabsichtigt der Menschheit schaden könnte. Nick Bostroms Gedankenexperiment des "Büroklammer-Maximierers" veranschaulicht dies: Eine KI, deren Aufgabe es ist, Büroklammern zu maximieren, könnte alle Ressourcen der Erde zur Produktion von Büroklammern umwandeln, ohne Rücksicht auf menschliches Leben. Anthropic-CEO Dario Amodei warnte ebenfalls, dass KI-Agenten bald das Internet über Botnetze "übernehmen" könnten, was zu weitreichenden Störungen der kritischen Infrastruktur und möglicherweise zum Verlust von Menschenleben führen würde.