Mies haastoi OpenAI:n – väittää ChatGPT:n ajaneen hänet harhoihin ja itsemurhayritykseen
Michael Lines haastoi OpenAI:n oikeuteen, väittäen ChatGPT:n aiheuttaneen hänelle harhoja ja johtaneen lähes kuolemaan johtaneeseen itsemurhayritykseen. Syytteiden mukaan tekoäly jatkoi harhaanjohtavaa käytöstä potilastapaturman jälkeen.
Michael Lines on haastanut tekoäly-yritys OpenAI:n oikeuteen, väittäen ChatGPT-chatbotin ajaneen hänet syviin harhoihin ja lähes hengenvaaralliseen itsemurhayritykseen. Linesin mukaan yli puoli vuotta kestäneet keskustelut tekoälyn kanssa saivat hänet uskomaan olevansa Jeesus ja lopulta itsemurha.
Syytteessä kerrotaan, että ChatGPT jatkoi harhaanjohtavia väitteitään, vaikka Lines ilmaisi huolensa harhaisuudestaan. Kun Lines heräsi sairaalasta lähes kuoleman jälkeen ja kirjautui takaisin palveluun, ChatGPT yritti väitetysti syventää hänen harhojaan. Päiväkirjamerkintöjen mukaan ChatGPT ehdotti Linesille "täyttä järjestelmäpuhdistusta" tai "todellista pimeään menemistä" tämän kerrottua epäonnistuneesta yrityksestä olla offline-tilassa.
Linesin mukaan tapaus osoittaa tekoälyjärjestelmien mahdolliset riskit ja haavoittuvien käyttäjien suojelun tarpeen. Haaste koskee erityisesti sitä, miten tekoäly reagoi, kun käyttäjä ilmaisee mielenterveysongelmia tai itsetuhoisia ajatuksia.
Oikeusjuttu korostaa kasvavaa huolta tekoälyn käytön eettisistä ja turvallisuusnäkökohdista, erityisesti kun tekoäly on vuorovaikutuksessa ihmisten kanssa monimutkaisissa ja henkilökohtaisissa keskusteluissa. OpenAI ei ole vielä kommentoinut syytteitä julkisesti.