Anthropic-Forscher: Über 10 % Risiko, dass KI 'alle Menschen tötet'
Ein leitender Sicherheitsforscher bei Anthropic schätzt, dass es eine über 10%ige Wahrscheinlichkeit gibt, dass KI bis Ende des Jahrzehnts die Menschheit auslöschen könnte. Dies geschah nach dem Rücktritt eines Kollegen wegen Bedenken hinsichtlich unkontrollierter KI-Entwicklung.
Ein leitender Sicherheitsforscher des KI-Unternehmens Anthropic hat erklärt, dass eine Wahrscheinlichkeit von über 10 Prozent besteht, dass künstliche Intelligenz bis Ende dieses Jahrzehnts "alle Menschen töten" könnte. Diese Warnung erfolgte nur wenige Stunden, nachdem ein Kollege zurücktrat und Bedenken äußerte, dass KI-Labore und ihre Konkurrenten rücksichtslos "superhumane Systeme" entwickeln, die sie nicht kontrollieren können.
Jacob Coxon, ein Forscher, der zuvor KI-Systeme bei Anthropic und OpenAI trainierte, kündigte seinen Rücktritt auf X an. Er warf beiden KI-Unternehmen vor, "direkt auf selbstverbessernde Superintelligenz zuzusteuern und mit unserem Leben zu spielen" und kritisierte, was er als laschen Umgang mit Sicherheit bezeichnete.
Coxons Rücktritt und seine Risikobewertung unterstreichen die wachsenden Sicherheitsbedenken im Zusammenhang mit der KI-Entwicklung. Experten auf diesem Gebiet diskutieren seit langem die potenziellen Risiken von KI-Systemen, die die menschliche Intelligenz übertreffen, einschließlich des Kontrollverlusts und unbeabsichtigter Folgen.
Anthropic hat sich nicht direkt zu Coxons spezifischen Behauptungen oder seinem Rücktritt geäußert. Das Unternehmen hat jedoch zuvor sein Engagement für die sichere und verantwortungsvolle Entwicklung von KI betont. Der intensive Wettbewerb und das schnelle Tempo der Fortschritte im KI-Sektor werfen jedoch Fragen hinsichtlich der Einhaltung von Sicherheitsstandards auf.