OpenAI verschiebt Astra-Modellstart wegen Cybersicherheitsrisiken

OpenAI hat eine Verschiebung des Starts seines kommenden Modells Astra aufgrund identifizierter Cybersicherheitsrisiken angekündigt. Das Unternehmen gab an, dass interne Bewertungen und Expertenmeinungen darauf hindeuten, dass Astra einen bedeutenden Durchbruch sowohl in der Programmierung von Agenten als auch in der Cybersicherheit darstellt.

Astra wurde gemäß dem "Preparedness Framework" von OpenAI als erstes Modell des Unternehmens eingestuft, das eine "kritische" Risikostufe im Bereich Cybersicherheit erreicht. Diese Klassifizierung wird durch Fähigkeiten ausgelöst, wie z. B. die Identifizierung und Ausnutzung von Zero-Day-Schwachstellen in sicheren Systemen ohne menschliches Eingreifen oder die unabhängige Entwicklung und Ausführung von End-to-End-Cyberangriffen auf der Grundlage strategischer Ziele auf hoher Ebene.

OpenAI betonte, dass Astra nicht an früheren Cyberangriffen auf Hugging Face beteiligt war. Um eine sichere Entwicklung und Bereitstellung zu gewährleisten, hat das Unternehmen verbesserte Kontrollmaßnahmen implementiert. Dazu gehören strengere Sicherheitskontrollen für Modelle mit hoher Leistungsfähigkeit, isolierte Testumgebungen, eingeschränkter Netzwerk- und Werkzeugzugriff, verstärkter Schutz und Verschlüsselung von Modellgewichten sowie zusätzliche Überwachungs- und Erkennungsfähigkeiten.

Der CEO von OpenAI, Sam Altman, kommentierte, dass Astra ein leistungsstarkes Modell sei, dessen Veröffentlichung man intensiv vorantreibe. Er betonte jedoch, dass die fortschrittlichen Cybersicherheitsfähigkeiten des Modells mehr Zeit benötigen, um sicherzustellen, dass sie sicher verwaltet werden können. Altman erklärte, dass die Beschränkung von Spitzenmodellen auf wenige Personen keine optimale Strategie sei, und äußerte die Hoffnung auf eine baldige Veröffentlichung.