Le CERT-In publie un cadre d'audit pour la sécurité des systèmes d'IA en Inde
L'agence indienne de cybersécurité CERT-In a instauré un protocole d'audit par paliers de risque pour les systèmes d'intelligence artificielle.
L'équipe indienne d'intervention d'urgence informatique (CERT-In) a lancé de nouvelles directives concernant l'audit des systèmes d'IA. Ce cadre s'applique à toute organisation développant ou exploitant des outils d'IA en Inde, ou traitant des données d'utilisateurs indiens.
L'audit repose sur neuf domaines fondamentaux, allant de la gestion des risques liés aux modèles à la protection de la vie privée et à la transparence. Les systèmes sont classés en quatre niveaux de risque : faible, modéré, élevé et critique. Cette classification détermine la fréquence et l'indépendance requises pour les audits, ainsi que le degré de supervision humaine nécessaire.
Le cadre impose également une gouvernance stricte sur la surveillance humaine, exigeant que les systèmes permettent une intervention ou une révision des décisions automatisées. Les organisations doivent mettre en place des mécanismes permettant aux personnes concernées de contester les résultats générés par l'IA.
En cas de défaillances identifiées lors des audits, les entreprises devront soumettre des plans de remédiation conformes à des délais stricts imposés par les autorités. Ces mesures visent à renforcer la sécurité face à l'émergence des modèles de langage avancés et des systèmes autonomes.