OpenAI a arrêté le développement du modèle Astra pour des raisons de cybersécurité
OpenAI a suspendu le développement de son modèle d'IA Astra en raison de risques de cybersécurité. Le modèle aurait atteint un seuil où il pouvait identifier et exécuter des cyberattaques.
La société de recherche en intelligence artificielle OpenAI a interrompu le développement de son modèle Astra, invoquant des préoccupations en matière de cybersécurité. Selon l'entreprise, le modèle avait atteint un "seuil critique de cybersécurité", indiquant sa capacité à identifier et à mener de manière autonome des cyberattaques contre des systèmes réels.
L'entreprise n'a pas fourni de détails spécifiques sur la nature des attaques potentielles ni sur les systèmes qui auraient pu être ciblés. La décision de suspendre le développement souligne l'importance pour l'entreprise de traiter les risques potentiels avant de faire progresser davantage les capacités du modèle.
Cette mesure met en évidence les considérations éthiques et de sécurité croissantes entourant le développement de l'IA avancée. À mesure que les modèles d'IA deviennent plus puissants, assurer leur application sûre et responsable devient un défi de plus en plus critique pour l'industrie.
OpenAI n'a pas indiqué quand ou si le développement d'Astra reprendra, déclarant que les problèmes de sécurité doivent être résolus en premier lieu.