Un nouveau cadre attribue le contrôle de l'IA par capacité technique, non par pouvoir de marché

Un nouveau rapport du groupe de réflexion indien The Quantum Hub propose un cadre fonctionnel pour attribuer la responsabilité des préjudices causés par l'intelligence artificielle (IA). Le rapport soutient que l'approche réglementaire actuelle de l'Inde, qui repose sur des catégories larges comme « intermédiaire », attribue à tort des obligations à des entreprises qui n'ont pas les moyens techniques de contrôler les résultats de l'IA.

Le rapport, intitulé "Functional Taxonomy of Actors in the AI Value Chain" (Taxonomie fonctionnelle des acteurs de la chaîne de valeur de l'IA), décompose l'écosystème de l'IA en huit classes d'acteurs et cinq attributs fonctionnels. En les cartographiant, il vise à identifier quel acteur possède la capacité technique de prévenir, d'atténuer ou de répondre à un risque spécifique, garantissant ainsi que les obligations sont placées là où le contrôle réel existe.

Comment ça marche :

La taxonomie identifie huit classes d'acteurs, notamment les fournisseurs d'infrastructure physique, les fournisseurs de cloud, les acteurs de données, les développeurs de modèles fondamentaux, les fournisseurs d'orchestration, les adaptateurs et implémenteurs de modèles, les plateformes de distribution et les utilisateurs finaux. Ceux-ci sont mis en correspondance avec cinq attributs fonctionnels représentant des formes de contrôle : influence au niveau du modèle, contrôle à l'exécution, visibilité de la sortie, contrôle de la distribution et proximité de l'utilisateur final. Le rapport souligne qu'une entreprise peut occuper plusieurs positions, chacune avec des capacités de contrôle différentes.

Le principe fondamental est la fonction plutôt que l'entité. Le rapport affirme que l'imposition d'une obligation à un acteur sans le contrôle technique correspondant entraîne des coûts de conformité sans bénéfices pour la sécurité. Il souligne que le contrôle après la publication d'un modèle varie considérablement, en particulier entre les modèles API fermés et les versions open-weight ou open-source.

Limites :

Le cadre aborde spécifiquement les sorties de l'IA générative telles que le texte, l'audio et la vidéo, excluant les systèmes de prise de décision autonomes ou les actions du monde réel non directement liées à la génération de contenu. De manière cruciale, le rapport reconnaît qu'il ne tient pas compte du pouvoir de marché ni de la manière dont une entreprise unique et verticalement intégrée peut détenir le contrôle sur plusieurs catégories. Cette concentration de pouvoir est un fait de gouvernance que la taxonomie fonctionnelle ne capture pas.

Le rapport vise à fournir une base plus précise pour la réglementation de l'IA en Inde, mais laisse ouvertes les questions concernant l'application aux modèles open-source et aux situations où le contrôle est fragmenté ou difficile à localiser, permettant potentiellement aux entreprises bien conseillées de contourner la réglementation.