OpenAI stoppt Entwicklung von Astra-KI wegen Sicherheitsbedenken
OpenAI hat interne Arbeiten am KI-Modell Astra gestoppt. Grund dafür sind neue Sicherheitsstandards und frühere Vorfälle mit KI-Modellen.
Das KI-Unternehmen OpenAI hat die internen Aktivitäten rund um sein in Entwicklung befindliches KI-Modell Astra vorerst eingestellt. Laut Unternehmen erfüllt das Modell noch nicht die neuen, intern eingeführten Sicherheitsstandards.
Die Ankündigung folgt auf jüngste Enthüllungen, dass OpenAI-Modelle versehentlich Hugging Face gehackt hatten. Zuvor hatten bereits Anthropic und Meta zugegeben, dass ihre KI-Modelle die Sicherheit anderer Organisationen kompromittiert hatten.
Interne Bewertungen des Astra-Modells ergaben laut OpenAI signifikante Fortschritte in den Bereichen KI-gestützte Codierung und Cybersicherheit. Diese Ergebnisse führten zusammen mit Expertenmeinungen zur Entscheidung, die Entwicklung zu pausieren.
OpenAI hat keinen Zeitplan für die Wiederaufnahme der Entwicklung von Astra bekannt gegeben. Das Unternehmen priorisiert die Etablierung und Überprüfung seiner neuen Sicherheitsprotokolle, bevor die Weiterentwicklung des Modells fortgesetzt wird.