SEBI : L'IA pour la supervision, pas pour les décisions

Tuhin Kanta Pandey, président du Securities and Exchange Board of India (SEBI), a précisé que l'intelligence artificielle (IA) peut être exploitée pour la supervision des marchés financiers, mais que son rôle dans la prise de décisions réglementaires doit être limité.

S'exprimant lors du Global Fintech Fest 2026, Pandey a souligné qu'une alerte générée par l'IA n'est pas une constatation en soi, et que l'application et le jugement ne peuvent pas être délégués à des « boîtes noires ». La SEBI utilise déjà l'IA pour des fonctions telles que la conformité en matière de cybersécurité et la surveillance des médias sociaux, mais a insisté sur le fait que les décisions réglementaires ultimes doivent conserver une supervision humaine.

La SEBI vise à utiliser l'IA pour rendre la supervision plus prédictive. Selon Pandey, l'IA peut traiter de grands ensembles de données, détecter des modèles et diriger l'attention de la supervision vers les risques émergents. Cela permet un passage de contrôles périodiques à une surveillance continue, quasi en temps réel, souvent effectuée à distance.

Cependant, Pandey a averti que la simple présence humaine dans la boucle de prise de décision est insuffisante, car les humains peuvent faire trop confiance aux machines. Il a souligné la nécessité d'une supervision compétente, habilitée et responsable. Les mesures de protection doivent couvrir les modèles d'IA et leur déploiement, y compris l'explicabilité, la validation, les tests continus, la qualité des données et les contrôles de biais.

Pandey a également averti que l'IA pourrait créer des risques de concentration sur les marchés financiers si plusieurs entités s'appuient sur des modèles communs ou une infrastructure cloud, qui pourraient devenir des points de défaillance partagés. La responsabilité réglementaire ne peut être externalisée à des fournisseurs de technologie, et les dépendances technologiques critiques ne doivent pas devenir des angles morts réglementaires.