Kein Marketing-Hype: KI-selitykset auttavat lääkäreitä diagnosoinnissa

Tutkimus Ludwig-Maximilians-Universität Münchenistä (LMU) on paljastanut, että tekoälymallit voivat parantaa diagnostista tarkkuutta radiologiassa, mutta niiden hyödyllisyys riippuu siitä, miten ne selittävät suosituksensa.

Monet suuret kielimallit, kuten ChatGPT, ovat yleistymässä lääketieteellisessä käytössä. Ne pystyvät tiivistämään tietoa, ehdottamaan diagnooseja ja perustelemaan arvioitaan ymmärrettävästi. Uuden tutkimuksen mukaan ratkaisevaa on mallin kyky selittää diagnoosin taustalla olevat syyt, ei pelkästään itse diagnoosi.

LMU:n, LMU Klinikums, Karlsruhen teknologiainstituutin ja Bayreuthin yliopiston tutkijat analysoivat satunnaistetussa kokeessa 101 radiologin suorituskykyä. Radiologit arvioivat todellisia potilastapauksia kuvantamistuloksilla ja heidän tuli tehdä diagnoosi. Tutkimuksessa verrattiin ryhmää, joka työskenteli ilman tekoälyä, kolmeen ryhmään, jotka saivat tekoälyltä erilaisia selityksiä: pelkän diagnoosin, erotusdiagnoosin tai vaiheittaisen "chain-of-thought" -selityksen.

Tulokset osoittivat, että vaiheittaiset, selkeät selitykset paransivat diagnostista tarkkuutta merkittävästi. Ryhmä, joka käytti tätä selitystapaa, oli 12,2 prosenttiyksikköä tarkempi kuin kontrolliryhmä. Pelkkä diagnoosi tai erotusdiagnoosit eivät tuottaneet vastaavaa parannusta, ja ne saattoivat jopa lisätä virheiden riskiä automaatiopohjaisen harhan vuoksi.

Tutkimuksen johtopäätös on, että tekoälyn hyödyllisyys lääketieteessä ei perustu pelkästään sen diagnostiseen kykyyn, vaan myös selitysten muotoon. Vaiheittaiset selitykset auttavat lääkäreitä arvioimaan tekoälyn suosituksia kriittisesti ja yhdistämään ne omaan asiantuntemukseensa. Professori Stefan Feuerriegelin mukaan tulokset ovat merkittäviä myös lääketieteen ulkopuolella, sillä ne korostavat tarvetta aktiivisesti tarkastella ja ymmärtää tekoälyn antamia vastauksia, ei vain hyväksyä niitä.