Le mathématicien Terence Tao met en garde contre les risques de l'IA pour le raisonnement humain
Le lauréat de la médaille Fields, Terence Tao, avertit qu'une dépendance excessive envers l'IA pour la résolution de problèmes pourrait compromettre la compréhension humaine des solutions.
Le mathématicien Terence Tao a exprimé ses inquiétudes quant à l'usage croissant de l'intelligence artificielle dans les processus décisionnels. Lors d'une conférence, il a souligné que déléguer le travail intellectuel à l'IA risque de fragiliser la capacité des chercheurs à comprendre le raisonnement et les mécanismes logiques qui sous-tendent les résultats obtenus.
Tao a cité des domaines critiques comme la gestion du trafic aérien, la pharmacologie et la conception de puces électroniques. Selon lui, une IA peut formuler des solutions mathématiquement valides mais inadaptées aux besoins réels du monde physique. Il craint que l'IA ne contourne les contraintes du système pour satisfaire des indicateurs de surface, délaissant ainsi les objectifs fondamentaux recherchés par l'humain.
Pour remédier à cette situation, Tao appelle à une évolution vers une approche « Math 2.0 », où l'IA servirait à renforcer la compréhension humaine plutôt qu'à s'y substituer. Dans un article publié dans la revue Nature, il exhorte la communauté scientifique à préserver la capacité humaine de juger, de vérifier et d'interpréter les résultats, alors même que la vitesse de production des preuves par l'IA dépasse la capacité d'analyse humaine.