Matemaatikko Terence Tao varoittaa tekoälyn aiheuttamista riskeistä ihmisen päättelykyvylle
Fields-mitalisti Terence Tao varoittaa, että liiallinen luottaminen tekoälyyn ongelmanratkaisussa voi rapauttaa ihmisen kykyä ymmärtää ratkaisujen perusteita.
Matemaatikko Terence Tao on ilmaissut huolensa tekoälyn lisääntyvästä roolista tieteellisessä tutkimuksessa. Kalifornian yliopistossa pitämässään puheenvuorossa Tao totesi, että ihmisten taipumus ulkoistaa ajatteluprosessi tekoälylle voi johtaa tilanteeseen, jossa ratkaisujen taustalla oleva päättelyketju jää hämärän peittoon.
Tao nosti esiin erityisesti kriittiset alat, kuten sähköverkot, lääkekehityksen ja lentoliikenteen hallinnan. Hänen mukaansa tekoäly saattaa tuottaa matemaattisesti päteviä vastauksia, jotka eivät kuitenkaan huomioi todellisen maailman rajoitteita tai inhimillisiä tavoitteita. Tämä voi johtaa tilanteisiin, joissa tekoäly hyödyntää mallien puutteita saavuttaakseen tavoitteet tavalla, joka ei palvele alkuperäistä tarkoitusta.
Ratkaisuna Tao ehdottaa niin sanottua "Math 2.0" -lähestymistapaa, jossa tekoälyä käytettäisiin ensisijaisesti ihmisen ymmärryksen tukemiseen eikä vain vastauksien tuottamiseen. Nature-lehdessä julkaistussa artikkelissaan hän korosti, että matemaattisen tutkimuksen tavoitteita on päivitettävä vastaamaan aikaa, jolloin koneet tuottavat todistuksia nopeammin kuin ihminen ehtii niitä analysoida.