AI:n harhat luovat tyytymättömiä asiakkaita
Tekoälyn ennusteet ruoka-allergioista ovat aiheuttaneet vaaratilanteita ravintoloissa, kun asiakkaat luottavat generatiiviseen tekoälyyn enemmän kuin henkilökuntaan.
Generatiivisen tekoälyn, kuten ChatGPT:n, virheelliset vastaukset ruoka-allergioihin liittyen aiheuttavat haasteita ravintola-alalla. New Yorkissa työskentelevä tarjoilija Madison kertoo, että asiakkaat ovat alkaneet kyseenalaistaa hänen antamiaan tietoja ruoan ainesosista vedoten tekoälyn antamiin tietoihin.
Tämä ilmiö luo vaaratilanteita, joissa asiakkaiden terveydelle vaaralliset allergeenit saattavat päätyä heidän ruokaansa. Madisonin mukaan asiakkaat, jotka väittävät olevansa allergisia esimerkiksi äyriäisille, tilaavat silti ruokia, joiden valmistuksessa käytetään äyriäisiä, perustellakseen tekemisiään tekoälyn väitteillä.
"He haluavat vain puhua ChatGPT:lle", Madison kuvailee tilannetta, jossa asiakkaat luottavat enemmän tekoälyn antamiin, virheellisiin tietoihin kuin tarjoilijan antamaan varoitukseen. Tilanne on johtanut siihen, että asiakkaat eivät enää esitä jatkokysymyksiä ruoasta, kun heille ilmoitetaan mahdollisista allergeeneista.
Raportointi asiasta korostaa tarvetta tiedon tarkistamiselle ja kriittiselle ajattelulle tekoälyn tuottaman sisällön suhteen, erityisesti silloin, kun kyse on terveydestä ja turvallisuudesta.