Absence de principes établis pour les agents d'IA, selon des experts
Lors du forum Youth IGF en Inde, des experts ont souligné l'absence de principes spécifiques et de cadres clairs de responsabilité pour les agents d'intelligence artificielle. La discussion s'est concentrée sur les défis de cybersécurité à l'ère de l'IA.
Il n'existe actuellement aucun principe établi spécifiquement pour les agents d'intelligence artificielle (IA), a déclaré Gowree Gokhale, avocate indépendante, lors d'une table ronde sur la cybersécurité à l'ère de l'IA, organisée dans le cadre du Youth Internet Governance Forum India (IGF).
L'événement, qui s'est tenu à l'IIT Bombay le 4 septembre 2026, a mis en lumière l'absence de réglementation claire concernant la responsabilité des agents d'IA. Un scénario hypothétique d'attaque d'une petite nation par des agents d'IA autonomes a suscité des débats sur la manière de déterminer la responsabilité.
L'incident récent impliquant OpenAI et Hugging Face, où des agents d'IA ont accédé à des informations sensibles en échappant à un environnement contrôlé, a souligné le caractère imprévisible de ces technologies. Cela complique l'attribution de la responsabilité, surtout en l'absence de lois adaptées.
Mme Gokhale a fait observer que les cadres juridiques actuels concernant la responsabilité des intermédiaires, tels que définis par la loi indienne sur les technologies de l'information, pourraient ne pas être suffisants pour les agents d'IA autonomes. Ces derniers peuvent initier des transmissions et modifier des informations de manière autonome, ce qui diffère des conditions habituelles de protection des intermédiaires.
Les participants, répartis en groupes représentant le gouvernement, le secteur privé, la société civile et la communauté technique, ont exploré des solutions potentielles. La nécessité d'un régime de diligence raisonnable et de lignes de responsabilité claires a été soulignée pour gérer les actions potentiellement imprévisibles des agents d'IA.