OpenAI stoppt Entwicklung der Astra-Modells wegen Cybersicherheitsbedenken
OpenAI hat die Entwicklung seines Astra-KI-Modells aufgrund von Cybersicherheitsrisiken gestoppt. Das Modell erreichte Berichten zufolge eine Schwelle, an der es Cyberangriffe identifizieren und ausführen konnte.
Das KI-Forschungsunternehmen OpenAI hat die Entwicklung seines Astra-Modells aufgrund von Bedenken hinsichtlich der Cybersicherheit gestoppt. Laut dem Unternehmen hatte das Modell einen "kritischen Cybersicherheitsschwellenwert" erreicht, was auf seine Fähigkeit hindeutet, Cyberangriffe gegen reale Systeme selbstständig zu identifizieren und durchzuführen.
Das Unternehmen hat keine spezifischen Details über die Art der potenziellen Angriffe oder die betroffenen Systeme bekannt gegeben. Die Entscheidung, die Entwicklung zu pausieren, unterstreicht den Fokus des Unternehmens auf die Bewältigung potenzieller Risiken, bevor die Fähigkeiten des Modells weiter ausgebaut werden.
Dieser Schritt unterstreicht die wachsenden ethischen und sicherheitsrelevanten Überlegungen rund um die Entwicklung fortschrittlicher KI. Da KI-Modelle immer leistungsfähiger werden, wird die Gewährleistung ihrer sicheren und verantwortungsvollen Anwendung zu einer immer kritischeren Herausforderung für die Branche.
OpenAI hat nicht angegeben, wann oder ob die Entwicklung von Astra wieder aufgenommen wird, und erklärt, dass die Sicherheitsprobleme zuerst gelöst werden müssen.