Les opérateurs télécoms indiens responsables des défaillances de l'IA selon un projet du TRAI
Le régulateur indien des télécoms propose que les opérateurs répondent de toutes les conséquences des systèmes d'IA qu'ils utilisent, y compris ceux fournis par des tiers.
L'Autorité de régulation des télécommunications de l'Inde (TRAI) a publié un projet de réglementation imposant aux opérateurs télécoms une responsabilité totale sur les systèmes d'intelligence artificielle qu'ils déploient. Selon ce texte, les entreprises seront tenues pour responsables des résultats de leurs systèmes, qu'ils soient développés en interne ou externalisés auprès de fournisseurs.
Le cadre proposé exige que les opérateurs adoptent une politique d'IA validée par leur conseil d'administration, classifient leurs systèmes selon les risques et maintiennent un inventaire précis. Un comité dédié à la gouvernance et à la sécurité devra assurer une surveillance humaine constante et valider toute mise en service. Les opérateurs devront également définir des clauses contractuelles strictes avec leurs fournisseurs pour couvrir les risques juridiques et opérationnels.
Cette exigence intervient alors que le cadre juridique international concernant la responsabilité des systèmes d'IA reste incertain. Anthropic a récemment souligné dans des documents financiers que ses propres limitations de responsabilité contractuelles pourraient être insuffisantes face à la législation en vigueur, créant un risque potentiel pour les entreprises utilisant des outils d'IA autonomes.
La TRAI a ouvert une période de consultation publique qui s'achèvera le 27 novembre. Ces mesures visent à encadrer l'usage croissant de l'IA dans les infrastructures critiques des télécommunications indiennes.