Le ministère indien de l'IT impose une supervision humaine pour les paiements par IA

Le ministère indien de l'Électronique et des Technologies de l'Information (MeitY), par l'intermédiaire de son unité de cybersécurité CERT-In, a proposé de rendre obligatoire la supervision humaine pour les agents d'intelligence artificielle effectuant des transactions de paiement au-delà d'une limite financière définie. Cette proposition, détaillée dans le rapport "Digital Threat Report 2025-26", vise à introduire des mesures de protection à mesure que les activités financières pilotées par l'IA évoluent.

L'inclusion d'un mécanisme "human-in-the-loop" (humain dans la boucle) signifie qu'un humain surveillera ou interviendra dans le flux de travail de l'IA, fournira des commentaires ou prendra des décisions pour améliorer la précision et prévenir les abus. Cette proposition intervient à un moment où la National Payments Corporation of India (NPCI), qui gère l'interface de paiement unifiée (UPI), explorerait des moyens de permettre aux agents IA d'effectuer des paiements UPI, selon les rapports.

Nikhil Pahwa, fondateur et rédacteur de MediaNama, a souligné la nécessité d'établir la confiance avant d'autoriser les paiements UPI pilotés par agents. Il a cité des problèmes potentiels tels que la fraude et les transactions non autorisées, établissant des parallèles avec des incidents survenus sur d'autres marchés où des agents ont effectué des achats douteux. Pahwa préconise des fonctionnalités de sécurité robustes, y compris des identifiants d'agents distincts et des limites de transaction définies par l'utilisateur.

Pahwa a en outre suggéré que les agents IA devraient utiliser des portefeuilles numériques plutôt que des comptes bancaires et se voir attribuer des identifiants uniques et déléguables. Cette approche pourrait améliorer la responsabilité et la traçabilité. Le développement continu de protocoles de commerce agentiel par des entreprises telles que Coinbase et Pine Labs souligne la direction de l'industrie, bien que des questions relatives à la confidentialité et à la sécurité des données demeurent.