OpenAI retarde le lancement du modèle Astra en raison de risques de cybersécurité

OpenAI a annoncé un report du lancement de son prochain modèle, Astra, en raison de risques identifiés en matière de cybersécurité. L'entreprise a indiqué que les évaluations internes et les avis d'experts suggèrent qu'Astra représente une avancée significative tant dans la programmation d'agents que dans la cybersécurité.

Astra a été classé comme le premier modèle d'OpenAI à atteindre un niveau de risque "critique" en matière de cybersécurité, conformément à son cadre de préparation (« Preparedness Framework »). Cette classification est déclenchée par des capacités telles que l'identification et l'exploitation de vulnérabilités zero-day dans des systèmes sécurisés sans intervention humaine, ou la conception et l'exécution indépendantes de cyberattaques de bout en bout basées sur des objectifs stratégiques de haut niveau.

OpenAI a souligné qu'Astra n'était pas impliqué dans les cyberattaques précédentes visant Hugging Face. Pour garantir un développement et un déploiement sécurisés, l'entreprise a mis en œuvre des mesures de contrôle renforcées. Celles-ci comprennent des contrôles de sécurité plus stricts pour les modèles à haute capacité, des environnements de test isolés, un accès restreint au réseau et aux outils, une protection et un chiffrement renforcés des poids du modèle, ainsi qu'une surveillance et des capacités de détection supplémentaires.

Le PDG d'OpenAI, Sam Altman, a déclaré qu'Astra était un modèle puissant dont ils s'efforçaient activement de finaliser la publication. Il a toutefois insisté sur le fait que les capacités avancées du modèle en matière de cybersécurité nécessitent plus de temps pour garantir une gestion sûre. Altman a expliqué que limiter les modèles les plus performants à quelques personnes n'est pas une stratégie optimale et a exprimé l'espoir d'une publication rapide.