OpenAI drosselt KI-Entwicklung aus Sicherheitsgründen
Das KI-Unternehmen OpenAI hat angekündigt, bestimmte Entwicklungen zu verlangsamen, um Sicherheitsmaßnahmen zu verstärken. Der Schritt erfolgt inmitten intensiven Wettbewerbs und interner Sicherheitsprüfungen.
OpenAI kündigte am Dienstag an, die Geschwindigkeit einiger seiner künstlichen Intelligenzentwicklungen zu drosseln, um Sicherheit und Schutzmaßnahmen zu verschärfen. Das Unternehmen pausierte das Training für verstärkendes Lernen ("Reinforcement Learning") seiner "neuesten für die Bereitstellung vorgesehenen Modelle" für zwei Wochen und verzeichnet anhaltende Verzögerungen bei seinem "größten geplanten Frontier RL-Lauf".
Die Entscheidung fällt in eine Zeit, in der OpenAI erheblichem Wettbewerb von Konkurrenten wie Anthropic sowie von chinesischen und Open-Weight-Anbietern gegenübersteht. Das Unternehmen bereitet sich zudem auf einen möglichen Börsengang (IPO) vor, was typischerweise den Druck zur schnellen Weiterentwicklung erhöht.
Diese Verlangsamung stellt einen öffentlichen Test für eine Idee dar, die von Befürwortern der KI-Sicherheit seit langem gefordert wird: Unternehmen sollten bereit sein, sich aus dem KI-Wettlauf zurückzuziehen und die Entwicklung zu verlangsamen, um Sicherheitsbedenken angemessen zu adressieren.
OpenAI hat keine spezifischen Details dazu gegeben, wie oder wann es plant, die verlangsamten Entwicklungsprojekte wieder aufzunehmen. Die Maßnahmen des Unternehmens dienen als bemerkenswerter Test seines Engagements für Sicherheit, während es bestrebt ist, seine führende Position in diesem Bereich zu behaupten.