KI-Forscher tritt zurück – Existentielle Bedrohung durch Superintelligenz

Ein KI-Forscher, Jacob Coxon, hat mit einem viralen Beitrag auf X (ehemals Twitter) für Aufsehen gesorgt. Er behauptet, Anthropic verlassen zu haben, da er befürchtet, das Unternehmen und OpenAI würden unverantwortlich auf die Entwicklung selbstverbessernder Superintelligenz hinarbeiten. Coxon erklärte, beide Firmen würden "direkt auf selbstverbessernde Superintelligenz zusteuern und mit unserem Leben spielen". Sein Beitrag wurde fast 79 Millionen Mal aufgerufen.

Coxon warnte, dass sich KI-Systeme rasant entwickeln und bald in der Lage sein könnten, alles zu hacken, Felder über Nacht zu revolutionieren und erhebliche Macht und Ressourcen zu erlangen – potenziell zum Nachteil der Menschheit. Er betonte, dass diese Bedenken keine reinen Marketing-Gags seien, sondern eine ernsthafte, anerkannte existenzielle Bedrohung innerhalb der Branche widerspiegelten.

Seine Aussagen lösten Reaktionen innerhalb von Anthropic aus. Evan Hubinger, Leiter der Anpassungswissenschaft (Alignment Science) bei Anthropic, bestätigte Coxons Befürchtungen in einem Beitrag auf X. "Wir glauben wirklich ernsthaft, dass KI alle Menschen töten könnte!", schrieb Hubinger und schätzte die Wahrscheinlichkeit auf über 10 % innerhalb des nächsten Jahrzehnts. Er räumte ein, dass Anthropic noch keine Lösung zur Kontrolle von Superintelligenz besitzt, trotz der Bemühungen des Unternehmens, verantwortungsbewusst zu handeln.

Ein weiterer Anthropic-Mitarbeiter, Samuel Marks, teilte diese Bedenken hinsichtlich einer möglichen KI-gesteuerten Apokalypse und verwies auf einen offenen Brief, den er mit unterzeichnet hat und der eine Verlangsamung der KI-Entwicklung fordert. Fast Company hat Anthropic und OpenAI um Bestätigung von Coxons Anstellung gebeten, bisher jedoch keine Antwort erhalten. Der US-Senator Bernie Sanders kommentierte ebenfalls und kündigte an, einen Gesetzesentwurf zur Verbietung von Superintelligenz und zur Aussetzung der KI-Entwicklung vorlegen zu wollen.