Waymo exige des évaluations de projet IA avant le lancement

Waymo, l'entreprise de véhicules autonomes appartenant à Alphabet, a mis en œuvre une approche de "développement axé sur l'évaluation" pour ses modèles d'IA. L'entreprise affirme que les projets d'IA ne sont pas publiés tant que leurs cadres d'évaluation ne sont pas suffisamment matures, indépendamment des performances brutes du modèle. Cette stratégie privilégie l'évaluation et la mesure continues pour atténuer les risques liés au déploiement de l'IA.

Manasi Joshi, directrice de l'ingénierie pour l'intelligence des systèmes et l'apprentissage automatique chez Waymo, a expliqué lors de VB Transform 2026 que l'évaluation est une partie intégrante du cycle de développement, plutôt qu'une simple vérification finale. "Nous évaluons la maturité de nos projets en fonction de la maturité de leurs évaluations", a déclaré Joshi. À ce jour, Waymo a parcouru plus de 220 millions de kilomètres en mode entièrement autonome, signalant une réduction significative des blessures graves par rapport aux conducteurs humains sur la même distance.

Cette méthodologie impose aux entreprises de pouvoir mesurer de manière fiable les performances de leurs systèmes d'IA avant de les déployer en production. De plus, les évaluations doivent se poursuivre après le lancement, car les processus métier, les comportements des utilisateurs et les données entrantes évoluent constamment. Waymo établit des parallèles avec le développement d'agents de service client ou d'autres applications d'IA.

L'entreprise met fortement l'accent sur la sécurité, testant ses systèmes par le biais de simulations approfondies et de scénarios de conduite réels, y compris des situations rares et dangereuses. En fin de compte, la supervision humaine reste essentielle pour les décisions de lancement, et non les systèmes automatisés, compte tenu des enjeux élevés. L'équilibre entre efficacité et fiabilité est primordial, et Waymo se concentre sur l'optimisation de ses systèmes embarqués dans les véhicules ainsi que de l'infrastructure de support.

L'expérience de Waymo suggère que l'IA agentique nécessite un objectif clair, des données représentatives, des tests continus et des décideurs humains désignés qui sont responsables du déploiement. "Gagner la confiance est de la plus haute importance", a conclu Joshi.