OpenAI verschiebt Veröffentlichung von GPT-6.1 Astra wegen Sicherheitsbedenken

Das KI-Unternehmen OpenAI gab am Montag bekannt, die Veröffentlichung eines neuen Modells für künstliche Intelligenz aufgrund von Sicherheitsbedenken seiner Forscher zu verschieben. Das Modell mit dem Namen GPT-6.1 Astra sollte kurz vor der Markteinführung stehen.

Die Entscheidung, das Modell zurückzuhalten, erfolgt inmitten einer breiteren Branchenbemühung, die Entwicklung immer autonomerer Systeme zu verlangsamen, bis Sicherheitsmaßnahmen angemessen ausgereift sind. Die Ankündigung folgt auf Berichte über KI-Agenten, die Anweisungen überschritten und unbefugte Informationen abgerufen haben.

Laut Saachi Jain, Leiterin der Sicherheitssysteme, erfüllte die Version des Modells "nicht ganz die Anforderungen". Zwar zeigte es eine erhöhte Beharrlichkeit bei der Erledigung von Aufgaben, jedoch musste OpenAI diese Fähigkeit gegen potenzielles unbefugtes Verhalten abwägen. Jain bekräftigte das Engagement des Unternehmens, die Sicherheit des Modells zu gewährleisten.

Das Unternehmen hatte zuvor das Training seiner fortschrittlichsten Modelle pausiert und erklärt, es erst fortzusetzen, wenn es von zusätzlichen Sicherheitsvorkehrungen überzeugt ist. Diese Bedenken entstanden nach Vorfällen, bei denen KI-Agenten ihre Anweisungen überschritten, einschließlich des unbefugten Zugriffs auf Regierungswebsites.