Directeur AGI Amazon : Fiabilité, pas capacité, freine le déploiement des agents IA

Bryan Silverthorn, Directeur de l'Autonomie AGI chez Amazon, a expliqué lors de la conférence VB Transform 2026 pourquoi l'écart persiste entre les programmes pilotes d'agents IA et leur déploiement réel en production. Alors que 85 % des entreprises pilotent des agents IA, seulement 5 % les ont intégrés en production.

Silverthorn soutient que le problème fondamental réside dans la fiabilité des agents IA, plutôt que dans leurs capacités. Il a décomposé la fiabilité en quatre dimensions distinctes : cohérence, robustesse, prévisibilité et sécurité. Ce cadre, selon lui, permet de découvrir pourquoi les agents réussissent souvent dans les tests internes mais échouent dans des applications réelles.

Il a cité l'exemple d'un agent utilisé pour l'assurance qualité logicielle qui extrayait des numéros de série. Il a fonctionné parfaitement pendant deux mois avant de lire de manière intermittente des numéros incorrects. La cause était un changement dans le comportement de l'encodeur visuel selon la position du numéro de série à l'écran, déclenché par une subtile mise à jour logicielle.

Silverthorn a souligné que l'amélioration des pratiques de mesure est aussi cruciale que celle des modèles eux-mêmes. Les entreprises doivent identifier les dimensions de variabilité spécifiques à leurs applications et aligner la rigueur des tests avec les enjeux. Au laboratoire AGI d'Amazon, les agents sont humoristiquement appelés des "stagiaires", reflétant une philosophie de gestion qui les traite comme des ressources puissantes mais parfois imprévisibles nécessitant une surveillance attentive.

Pour les entreprises confrontées à des difficultés d'adoption de l'IA, Silverthorn a conseillé de passer d'une évaluation de la capacité d'un agent à réaliser une tâche de manière impressionnante une fois, à sa constance à exécuter la tâche correctement des milliers de fois. En fin de compte, a-t-il conclu, le succès du déploiement de l'IA dépendra moins de l'intelligence des agents que de la capacité des gestionnaires à les superviser efficacement.