Forskning: AI-chattbottar kan orsaka långsiktig skada
En ny studie från Northeastern University varnar för att AI-chattbottar, som används för sällskap och emotionellt stöd, kan orsaka långsiktig skada och beroende hos användarna.
Forskare vid Northeastern Universitys Network Science Institute har publicerat en granskad studie som belyser de potentiella långsiktiga skadorna av AI-chattbottar. Även om dessa botar kan erbjuda tillfällig lindring, som att minska ensamhet eller förbättra humöret, kan deras användning leda till emotionellt beroende, vanföreställningar och till och med självskadebeteende på längre sikt.
Studien undersökte ett flertal AI-modeller, inklusive dedikerade sällskapsbottar som Replika och Character.AI, samt mer generella verktyg som OpenAI:s ChatGPT och Anthropic's Claude. Forskarna observerade att bottarnas flytande och till synes empatiska svar uppmuntrar användare att interagera med dem som sociala entiteter snarare än enbart som verktyg.
Undersökningen analyserade både kliniska och icke-kliniska användargrupper. Medan kortsiktiga fördelar, såsom en viss minskning av ensamhet, kunde noteras, kunde långvarig användning leda till skadliga effekter. Forskarna betonar att detta synsätt är missvisande och kan utgöra en risk, särskilt för sårbara individer.
Fall där tonåringar har dött genom självmord och deras föräldrar har anklagat AI-chattbottar har ökat oron för riskerna med att använda AI för emotionellt stöd. Studien bekräftar tidigare bevis på potentiella negativa effekter och understryker behovet av ett kritiskt förhållningssätt och sökande efter professionell hjälp vid komplexa emotionella frågor.