Anthropic-CEO schlägt Verlangsamung der KI-Entwicklung vor

Anthropic-CEO Dario Amodei hat eine Verlangsamung des Entwicklungstempos für künstliche Intelligenz vorgeschlagen. Amodei skizzierte einen dreistufigen Plan, der darauf abzielt, Unternehmen und Regulierungsbehörden mehr Zeit für den Aufbau von Sicherheitsvorkehrungen und die Bewertung fortschrittlicher KI-Modelle zu geben.

Um die Sicherheit seiner Modelle zu gewährleisten, wird Anthropic externen Gutachtern, wie METR, Zugang zu seinen KI-Modellen gewähren. Amodei bezeichnete dies als ersten Schritt, den das Unternehmen nun einseitig unternimmt, und erklärte, es sei "an der Zeit, auf die Bremse zu treten" bei bedeutenden KI-Modellen.

Der zweite Schritt des Plans würde eine branchenweite Zusammenarbeit beinhalten, möglicherweise unter Beteiligung von Regierungen. Amodei spezifizierte jedoch nicht die praktischen Maßnahmen oder Vereinbarungen, die dies mit sich bringen könnte. Der dritte Schritt des Plans wurde in der bereitgestellten Erklärung nicht detailliert.

Amodei betonte die Notwendigkeit, sicherzustellen, dass die KI-Entwicklung beherrschbar bleibt und dass ihre potenziellen Risiken identifiziert und angegangen werden, bevor neue, leistungsfähigere Modelle eingesetzt werden. Der Vorschlag kommt zu einer Zeit, in der die rasante Entwicklung von KI sowohl Begeisterung als auch Besorgnis über ihre gesellschaftlichen Auswirkungen hervorruft.