Technologieunternehmen und Regierungen reagieren auf Aufrufe zur Verlangsamung der KI-Entwicklung

Anthropic-CEO Dario Amodei hat Technologieunternehmen aufgefordert, die Entwicklung immer leistungsfähigerer "Frontier AI-Modelle" zu verlangsamen. In einem Essay warnte Amodei, dass die KI-Fähigkeiten schneller fortschreiten als Sicherheitsmaßnahmen, und forderte strengere Tests, unabhängige Bewertungen und internationale Zusammenarbeit.

Der Aufruf stieß auf unterschiedliche Reaktionen von führenden Technologieunternehmen und Persönlichkeiten. OpenAI-CEO Sam Altman stimmte Amodei zu und kündigte an, dass OpenAI unabhängigen Gutachtern einen Zugang zu seinen Systemen gewähren werde, der dem von Mitarbeitern ähnelt. Auch Elon Musk und Demis Hassabis, Vorsitzender von Google DeepMind, unterstützten Amodeis Ansichten.

Amazon erklärte, dass Fortschritt und Sicherheit keine Gegensätze seien und Modelle erst nach rigoroser Prüfung sicher freigegeben werden sollten. Microsoft KI-Chef Mustafa Suleyman teilt Anthropic's Fokus auf Sicherheit, kritisierte jedoch die Betonung von KI-Bewusstsein und Wohlergehen.

Andere Unternehmen verfolgen unterschiedliche Ansätze. Meta-CEO Mark Zuckerberg ist der Meinung, dass Unternehmen ihre Risiken selbst bewerten und ihr Entwicklungstempo bestimmen sollten. Nvidia-CEO Jensen Huang betont, dass die Unternehmen die Verantwortung für die Sicherheit ihrer KI-Technologien tragen.

Auch Regierungen haben Stellung bezogen. Chinas Außenministerium plädierte für einen offenen und inklusiven Ansatz gegenüber KI, während die staatlich kontrollierte Zeitung Global Times Amodeis Vorschlag als eine "Kalter Krieg-Strategie" bezeichnete, die darauf abziele, Chinas KI-Fortschritte zu behindern. Chinesische Beamte äußerten zudem Bedenken hinsichtlich potenzieller Risiken durch hochentwickelte US-KI-Systeme für ihre kritische Infrastruktur.