Les erreurs d'IA révèlent une diminution des compétences humaines
À mesure que l'IA se généralise, le rôle des employés évolue vers la supervision, pouvant affaiblir les compétences d'intervention. Cela crée un risque latent pour les organisations.
Lorsque les systèmes d'intelligence artificielle fonctionnent de manière fiable pendant de longues périodes, le rôle de la supervision humaine peut évoluer. La recherche indique que même si l'IA excelle, les capacités humaines de jugement indépendant et d'intervention peuvent diminuer.
Ce phénomène, appelé "risque latent", se produit lorsqu'une organisation dépend toujours de l'intervention humaine mais ne parvient pas à remarquer un affaiblissement potentiel de cette capacité. Bien que l'adoption de l'IA puisse accroître l'efficacité, elle peut réduire les occasions pour les humains de pratiquer la prise de décision critique.
Le problème s'appuie sur la recherche existante en matière d'automatisation, mais le rôle croissant de l'IA dans l'analyse et la prise de décision représente un défi moderne. Ce changement transforme les emplois de l'exécution des tâches à la surveillance des systèmes.
Par exemple, le cabinet d'audit Deloitte redessine sa formation à mesure que l'IA gère les tâches routinières, dans le but de garantir que les auditeurs juniors conservent leurs compétences en matière de jugement. Cela soulève cependant des questions de responsabilité lorsque l'IA commet des erreurs et que la capacité d'intervention humaine a diminué.