Les entreprises augmentent l'automatisation de l'IA après des erreurs

Les entreprises qui ont connu des défaillances avec leurs systèmes d'IA en production accélèrent la réduction de l'implication humaine dans les décisions de déploiement, selon une nouvelle étude de VentureBeat Intelligence. Cette tendance se poursuit alors même que la confiance dans les processus d'évaluation automatisés augmente.

En juillet, 13 % des 108 entreprises interrogées ont déclaré faire confiance aux évaluations automatisées, soit une augmentation significative par rapport aux 5 % du mois précédent. Parallèlement, les préoccupations concernant le décalage entre les tests et les résultats réels ont diminué de 10 points de pourcentage pour atteindre 19 %. Malgré cela, 49 % des entreprises ont signalé qu'une fonctionnalité d'IA, qui avait passé ses tests, a ensuite causé un problème visible par les clients – un chiffre largement inchangé.

La situation présente un paradoxe : les entreprises qui ont rencontré des problèmes avec des systèmes d'IA ayant réussi les tests sont plus susceptibles de douter du processus d'examen automatisé. Pourtant, 85 % de ces entreprises "brûlées" poussent à un déploiement automatisé sans approbation humaine, contre seulement 61 % des entreprises n'ayant pas rencontré de problèmes similaires. Cela suggère que les entreprises augmentent l'automatisation en réponse aux échecs, potentiellement pour améliorer la maturité du déploiement.

Selon l'étude, les entreprises ayant connu des échecs évoluent plus rapidement vers un modèle où les déploiements se font sans approbation humaine. Seulement 11 % de ces entreprises rejettent le déploiement entièrement automatisé pour l'avenir, contre 24 % de celles n'ayant pas rencontré de tels problèmes. Cette évolution indique une tendance claire vers une autonomie accrue dans les systèmes d'IA.