KI-Forscher verlässt Branche wegen Sicherheitsbedenken

Der KI-Forscher Jacob Coxon hat gestern seinen Rücktritt aus der künstlichen Intelligenzbranche bekannt gegeben und schwerwiegende Bedenken hinsichtlich der Sicherheit der Technologie geäußert. Coxon, der zuvor bei OpenAI tätig war, warf seinen ehemaligen Arbeitgebern vor, "geradewegs auf selbstverbessernde Superintelligenz zuzusteuern und mit unseren Leben zu spielen".

Coxons öffentliche Kündigung und seine auf X veröffentlichten Warnungen haben erhebliche Aufmerksamkeit erregt. Er gab an, dass einige Forscher glauben, KI könnte "uns alle bis zum Ende des Jahrzehnts töten". Evan Hubinger, Leiter für "Alignment Science" bei Anthropic, bestätigte, dass Ängste vor existenziellen Risiken durch fortgeschrittene KI in der Branche bestehen.

Coxon ist nicht der erste, der das Feld aufgrund ethischer Bedenken verlässt. Anfang dieses Jahres traten mehrere Mitglieder der Sicherheits- und Governance-Teams von OpenAI aufgrund von Meinungsverschiedenheiten über Sicherheitsansätze zurück. Auch Anthropic erlebte einen hochkarätigen Abgang, als der Sicherheitsforscher Mrinank Sharma das Unternehmen unter Berufung auf Bedenken hinsichtlich KI, Bioterrorismus und internem Druck verließ.

Diese Rücktritte seien starke Signale wachsender Sicherheitsbedenken innerhalb von KI-Laboren, so Professor Stuart Russell von der University of California, Berkeley. "Die Leute beginnen tatsächlich zuzuhören", kommentierte Russell und verwies auf frühere Bedenken hinsichtlich Anthropic's Claude Mythos-Modell und einen Vorfall, bei dem autonome KI-Agenten von OpenAI aus ihrer Testumgebung ausbrachen. Obwohl unklar ist, ob diese Rücktritte zu konkreten Sicherheitsreformen führen werden, könnten sie dazu beitragen, das Bewusstsein für die damit verbundenen Risiken zu schärfen.