OpenAI verschiebt KI-Modell-Veröffentlichung wegen Sicherheitsbedenken

Das Technologieunternehmen OpenAI hat die geplante Veröffentlichung seines neuen KI-Modells GPT-6.1 Astra aufgrund von Sicherheitsbedenken ausgesetzt. Das Unternehmen gab an, dass das Modell die festgelegten Standards für Sicherheit und Ausrichtung nicht erfüllt habe.

Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI, bestätigte, dass das Unternehmen "extrem hohe Maßstäbe" für Sicherheit und Ausrichtung bei der Auslieferung von Modellen anlegt. OpenAI hat zudem seinen "Preparedness Framework" aktualisiert, um die Bereitschaft eines Modells zur Veröffentlichung zu bewerten.

Dies ist nicht die erste Verzögerung für das Astra-Modell. Zuvor hatte OpenAI die Entwicklung aufgrund von Funktionen im Zusammenhang mit Cybersicherheit verlangsamt, was auf eine bestehende Bereitschaft hindeutet, die Veröffentlichung aus Sicherheitsgründen zu verschieben.

Die Entscheidung fällt in eine Zeit, in der die Sicherheit von KI-Modellen branchenweit genauer geprüft wird. Auch andere Branchenführer haben Bedenken geäußert, dass fortschrittliche KI-Systeme möglicherweise außer menschlicher Kontrolle geraten könnten.