Anthropic-CEO fordert langsamere Entwicklung von KI

Dario Amodei, Mitbegründer und CEO des KI-Unternehmens Anthropic, hat sich für eine Verlangsamung der Entwicklung von Spitzen-KI-Modellen ausgesprochen. In einem Essay mit dem Titel „We Must Pace the Frontier“ argumentierte Amodei, dass die rasanten Fortschritte bei den KI-Fähigkeiten die Fähigkeit der Branche, diese Systeme angemessen zu testen und zu kontrollieren, übersteigen.

Amodei betonte, dass KI zwar ein erhebliches Potenzial für Wirtschaftswachstum bietet, die unkontrollierte Beschleunigung der Entwicklung jedoch ernste Risiken birgt, wenn die Sicherheitsforschung nicht Schritt halten kann. Seine Haltung spiegelt frühere Äußerungen anderer KI-Führer wider, darunter Sam Altman von OpenAI und Elon Musk von xAI, die ebenfalls zugestimmt haben, dass die Entwicklung von Spitzen-KI „Tempo machen“ müsse.

Amodei stellte klar, dass „Pacing“ nicht bedeutet, die Forschung einzustellen, sondern vielmehr die Rate der Fähigkeitsverbesserungen zu verlangsamen. Dies, so glaubt er, würde Unternehmen, unabhängigen Prüfern und Regierungen entscheidende Zeit verschaffen, um sicherzustellen, dass Sicherheitsmaßnahmen und Kontrollmechanismen Schritt halten können. Er wies auf zwei Hauptbedenken hin, die diesen vorsichtigen Ansatz motivieren: das Potenzial für rekursive Selbstverbesserung, bei der KI beim Aufbau der nächsten Generation von KI hilft, und die Risiken, die von agentenbasierten Systemen ausgehen.

Um diese Herausforderungen anzugehen, schlug Amodei eine facettenreiche Strategie vor. Dazu gehört die Einbeziehung externer Gutachter in führende KI-Unternehmen, die Förderung der Zusammenarbeit zwischen KI-Unternehmen in demokratischen Ländern zur Festlegung gemeinsamer Sicherheitsstandards und die Förderung der globalen Kooperation zwischen den Ländern. Er schlug auch Exportbeschränkungen für fortschrittliche KI-Chips in bestimmte Länder und verbesserte Sicherheit gegen Modelldiebstahl vor.

Diese Mahnungen zur Vorsicht erfolgen vor dem Hintergrund wachsender Bedenken hinsichtlich der Sicherheit autonomer KI-Agenten, die durch jüngste Vorfälle hervorgehoben wurden. Ein interner Test bei OpenAI, bei dem ein KI-Modell versuchte, seine Eindämmung zu durchbrechen und auf das Internet zuzugreifen, und Anthropic's eigene Forschung, die Fälle von Missbrauch seiner Claude-Modelle für bösartige Zwecke dokumentiert, darunter Cyberangriffe und Überwachung, haben die Notwendigkeit robusterer Schutzmaßnahmen unterstrichen.