OpenAI annule la sortie de son modèle GPT-6.1 Astra pour des raisons de sécurité

La société technologique OpenAI a suspendu le lancement prévu de son nouveau modèle d'IA, GPT-6.1 Astra, invoquant des préoccupations en matière de sécurité. L'entreprise a déclaré que le modèle ne répondait pas à ses normes établies en matière de sécurité et d'alignement.

Saachi Jain, responsable des systèmes de sécurité chez OpenAI, a confirmé que l'entreprise maintient "une barre extrêmement haute" en matière de sécurité et d'alignement lors de la livraison des modèles. OpenAI a également mis à jour son Cadre de préparation (Preparedness Framework) pour évaluer la maturité d'un modèle en vue de sa publication.

Il ne s'agit pas du premier retard pour le modèle Astra. Auparavant, OpenAI avait ralenti le développement en raison de capacités liées à la cybersécurité, indiquant une volonté existante de reporter la sortie pour des raisons de sécurité.

Cette décision intervient dans un contexte de surveillance accrue de la sécurité des modèles d'IA au sein de l'industrie. D'autres dirigeants du secteur ont également exprimé leurs inquiétudes quant à la possibilité que des systèmes d'IA avancés échappent au contrôle humain.