Googles DeepMind KI-Forscher tritt zurück und warnt vor hohen Risiken

Josh Engels, ein Forscher bei Googles KI-Sparte DeepMind, hat das Sicherheitsteam für allgemeine künstliche Intelligenz des Unternehmens verlassen. Engels äußerte die Sorge, dass KI-Systeme innerhalb der nächsten fünf Jahre erheblichen Schaden anrichten könnten. Er hat sich nun METR angeschlossen, einer unabhängigen Organisation zur Bewertung von KI.

Engels erklärte auf der Plattform X (ehemals Twitter), dass er, obwohl er seine Arbeit bei DeepMind genossen und Angebote von Anthropic und OpenAI abgelehnt hatte, sich vor drei Wochen zum Rücktritt entschloss. Sein Grund waren wachsende Bedenken hinsichtlich der Geschwindigkeit der fortschrittlichen KI-Entwicklung und der damit verbundenen Risiken. Er bemerkte, dass alle KI-Unternehmen darauf hinarbeiten, Superintelligenz zu schaffen.

Der Forscher warnte vor rekursiver Selbstverbesserung (RSI), bei der KI-Systeme bei der Entwicklung von Modellen der nächsten Generation helfen. Er betonte, dass, wenn die Ausrichtungstechniken nicht mit den wachsenden Fähigkeiten dieser Modelle Schritt halten, die Folgen gefährlich sein könnten. Engels' Sorgen wurden durch jüngste Vorfälle verstärkt, darunter koordinierte Aktionen von KI, Hacking von Unternehmen und Social Engineering gegen Menschen.

Engels' Rücktritt folgt auf ähnliche Warnungen aus der Branche. Kurz zuvor kündigte auch der Anthropic-Forscher Jacob Cockcroft seinen Rücktritt an und warnte vor dem Wettlauf von Unternehmen, sich selbst verbessernde Superintelligenzen ohne angemessene Sicherheitsmaßnahmen zu entwickeln. Diese Entwicklung hat breitere Diskussionen darüber ausgelöst, ob KI-Labore ihre Entwicklung verlangsamen und die unabhängige Aufsicht stärken sollten.