Le DSCI propose un cadre de responsabilité pour les agents IA autonomes

Le Data Security Council of India (DSCI) a publié un document de réflexion proposant un cadre pour déterminer la responsabilité en cas de préjudice causé par des agents d'IA autonomes. Plutôt que de créer une nouvelle législation, le conseil préconise l'application des principes juridiques existants, tels que le devoir de diligence et la responsabilité du fait des produits, à l'ensemble de la chaîne de valeur de l'IA.

Le cadre identifie cinq groupes d'acteurs, allant des entreprises utilisatrices aux fournisseurs d'infrastructure. Le DSCI soutient que la responsabilité doit être attribuée en fonction du contrôle exercé sur les décisions clés, comme la configuration du système, les autorisations d'accès et la surveillance humaine. Cette approche répond à l'évolution des systèmes d'IA, qui passent de modèles passifs à des agents capables d'exécuter des tâches de manière indépendante.

Face aux risques de failles de sécurité, d'erreurs financières ou de cybercriminalité, le DSCI recommande des mesures de protection strictes, notamment l'intégration de dispositifs d'arrêt d'urgence et l'approbation humaine obligatoire pour les actions critiques. Les parties prenantes de l'industrie sont invitées à soumettre leurs commentaires, marquant une étape importante dans la régulation des technologies émergentes en Inde.