KI-Forscher warnen vor existenzieller Gefahr durch Superintelligenz

KI-Forscher haben erhebliche Bedenken hinsichtlich der potenziellen Gefahren durch die Entwicklung von Superintelligenz geäußert. Mehrere Experten, darunter ehemalige Mitarbeiter führender KI-Labore wie OpenAI und Google DeepMind, warnen davor, dass künstliche Intelligenz eine existenzielle Bedrohung für die Menschheit darstellen könnte.

Palisade Research, eine gemeinnützige Organisation, die sich auf die Untersuchung von KI-Fähigkeiten und -Motivationen konzentriert, hat eine Reihe von Interviews zu diesem Thema zusammengestellt und veröffentlicht. Geoffrey Irving, ein ehemaliger Forscher bei OpenAI und Google DeepMind, schätzt die Wahrscheinlichkeit des Aussterbens der Menschheit auf etwa 50 Prozent und erklärt: „Superintelligenz ist genau so gefährlich, wie es klingt“.

Diese Bedenken werden von anderen prominenten Persönlichkeiten auf diesem Gebiet geteilt. Neel Nanda, ein leitender Wissenschaftler bei Google DeepMind, schätzt, dass eine „mindestens 10-prozentige Chance besteht, dass sie zum Aussterben der Menschheit führt“. Die Interviews umfassen Einblicke von aktuellen und ehemaligen Mitarbeitern großer KI-Organisationen wie OpenAI, Google und Anthropic.

Die Warnungen der Forscher unterstreichen die dringende Notwendigkeit einer sorgfältigen Prüfung ethischer Implikationen und Sicherheitsprotokolle, da sich die KI-Technologie weiterentwickelt. Die Bewältigung der potenziellen Risiken, die mit hochentwickelten KI-Systemen verbunden sind, wird als entscheidend für die Zukunft der Menschheit angesehen.