Les assistants IA intelligents tenus pour partiellement responsables
Une nouvelle étude révèle que les humains attribuent une responsabilité partielle aux assistants IA pour les résultats, même en les considérant comme de simples outils.
Une recherche de la Ludwig-Maximilians-Universität München (LMU) indique que les humains tiennent les assistants IA intelligents partiellement responsables des résultats, même lorsqu'ils les perçoivent principalement comme des outils. L'étude, menée auprès de 940 participants, a examiné comment les individus évaluaient la responsabilité des assistants IA utilisés par des conducteurs humains.
Les résultats ont révélé une ambivalence : les participants ont constamment considéré les assistants intelligents comme des outils, mais leur ont également attribué une responsabilité partielle pour les succès et les échecs survenus lorsque le conducteur les consultait. Cette répartition des responsabilités n'a pas été observée lors de l'évaluation d'un instrument de navigation non basé sur l'IA.
En outre, l'étude a révélé que les assistants IA étaient considérés comme plus responsables des résultats positifs que des résultats négatifs. Les chercheurs suggèrent que cela pourrait découler du fait que les humains appliquent des normes morales différentes pour les éloges et les blâmes, rendant plus facile l'attribution de crédit aux systèmes non humains qu'à la faute.
La recherche, dirigée par Louis Longin à la Chaire de Philosophie de l'Esprit de la LMU, a également exploré si le type d'assistant (verbal ou tactile) faisait une différence, sans trouver d'écart significatif. Les chercheurs soutiennent que ces conclusions ont des implications pour la conception et le discours social autour des assistants IA, exhortant les développeurs à considérer l'impact sur les normes sociales et morales.