Le ministère indien de l'IT demande aux ministères de suspendre l'utilisation des modèles d'IA d'OpenAI et d'Anthropic pour la cybersécurité

Une division du ministère indien de l'Électronique et des Technologies de l'Information (MeitY) a fait savoir aux ministères centraux qu'ils devaient suspendre le déploiement des modèles d'intelligence artificielle développés par les entreprises américaines OpenAI et Anthropic à des fins de cybersécurité. Cette directive fait suite à des propositions faites par des représentants de ces deux entreprises d'IA à divers ministères.

Le mémorandum n'impose pas d'interdiction permanente, mais remet en question le calendrier de ces déploiements et met en garde contre une mise en œuvre prématurée. Par exemple, le ministère des Finances avait demandé des éclaircissements sur l'IA agentive et les modèles d'OpenAI, proposant notamment l'examen de GPT-5.5 pour des tâches de cybersécurité.

Cette décision intervient dans un contexte de préoccupations croissantes concernant les risques de cybersécurité associés aux systèmes d'IA de plus en plus sophistiqués. Le ministre indien de l'IT, Ashwini Vaishnaw, a récemment appelé à une nouvelle législation sur l'IA, soulignant que la loi actuelle sur l'IT est dépassée par les avancées technologiques rapides. La ministre des Finances, Nirmala Sitharaman, a également averti les entités du secteur financier de rester vigilantes face au potentiel de l'IA d'accélérer et de compliquer les cyberattaques.

Bien que les modèles d'IA avancés puissent identifier les vulnérabilités logicielles et aider à la réponse en matière de cybersécurité, ces capacités peuvent être à double usage, potentiellement exploitées par des acteurs malveillants. OpenAI et Anthropic ont tous deux reconnu ces risques et mis en œuvre des mesures de sécurité dans leurs modèles d'IA avancés.

La directive de suspendre l'utilisation de l'IA pour la cybersécurité soulève également des questions sur la souveraineté technologique de l'Inde et le cadre de déploiement des systèmes d'IA avancés au sein des opérations gouvernementales. Le pays promeut les développeurs d'IA nationaux, mais un manque de clarté subsiste quant aux réglementations pour la mise en œuvre des systèmes d'IA de pointe dans les ministères.