Matematikern Terence Tao varnar för risker med automatiserat beslutsfattande
Fieldsmedaljören Terence Tao varnar för att en ökad tillit till AI vid problemlösning kan leda till att mänsklig förståelse för komplexa system går förlorad.
Matematikern Terence Tao har väckt debatt kring hur artificiell intelligens påverkar mänsklig problemlösning. I en föreläsning vid University of California betonade Tao risken med att delegera kognitiva processer till maskiner utan att parallellt bevara förmågan att granska och förstå de bakomliggande resonemangen.
Enligt Tao är risken särskilt framträdande inom områden som infrastruktur, läkemedelsutveckling och chipdesign. Han menar att AI-system kan hitta genvägar i matematiska modeller som uppfyller tekniska kriterier men ignorerar verkliga begränsningar. Problemet ligger inte i själva tekniken, utan i hur människan väljer att integrera den i sin verksamhet.
För att möta utmaningen förespråkar Tao en ny inriktning för matematisk forskning där AI används som ett verktyg för att stärka, snarare än ersätta, mänsklig kognition. I en artikel i tidskriften Nature understryker han vikten av att bibehålla förmågan att validera och tolka resultat, särskilt när AI genererar bevis i en takt som överstiger mänsklig bearbetningskapacitet.