Les entreprises doivent gouverner les agents IA à l'échelle
L'intégration croissante des agents IA dans les opérations commerciales rend les méthodes de surveillance traditionnelles obsolètes. Une nouvelle catégorie d'agents "gardiens" vise à gérer l'activité IA à grande échelle.
Les entreprises sont confrontées à la difficulté de gouverner un nombre croissant d'agents d'intelligence artificielle (IA). Alors que ces agents effectuent des tâches allant de la rédaction de code au service client, les processus de surveillance traditionnels, centrés sur l'humain, peinent à suivre le rythme. Gartner prévoit que les grandes entreprises utiliseront plus de 150 000 agents IA d'ici 2028, soulignant le besoin urgent de solutions de gouvernance efficaces.
Les recherches actuelles indiquent un décalage important entre la vitesse de déploiement de l'IA et la capacité des organisations à la gérer. IBM a constaté que 70 % des responsables technologiques estiment que l'IA est déployée plus rapidement que l'IT ne peut la suivre. De même, seulement 13 % des organisations estiment disposer d'une gouvernance IA adéquate.
Le modèle historique d'examen humain avant la mise en production ne fonctionne plus en raison de la vitesse de l'IA. Les agents IA peuvent prendre des milliers de décisions avant même le début d'un processus d'examen traditionnel. La solution proposée réside dans de nouveaux "agents gardiens" conçus pour superviser les activités des autres agents IA, en s'assurant qu'ils respectent les politiques organisationnelles. Ces agents peuvent également intervenir si nécessaire, par exemple en créant des pistes d'audit, en alertant des examinateurs humains ou en bloquant des actions.
Les agents gardiens ne sont pas présentés comme des substituts à la surveillance humaine, mais comme des extensions de celle-ci. Ils surveillent les interactions des agents avec les systèmes d'entreprise, suivent l'accès aux données et vérifient les autorisations. Ce passage d'une gouvernance réactive à une gouvernance proactive vise à opérer à la vitesse de l'IA, en atténuant les risques avant qu'ils ne se transforment en problèmes commerciaux.
Au-delà des contrôles techniques, l'article souligne l'importance d'intégrer le jugement organisationnel et le contexte commercial dans la gouvernance de l'IA. Les agents gardiens peuvent aider à appliquer ce jugement à chaque action de l'IA, mais la responsabilité ultime de la définition des politiques et des décisions complexes incombe toujours à la direction humaine.