Studie: AI-kamrater kan fördjupa social ojämlikhet
En studie från Singapore Management University och Duke-NUS Medical School presenterar en ny ram för att förstå hur AI-kamrater kan påverka social ojämlikhet. Forskningen publicerades i Nature Human Behaviour.
Ny forskning från Singapore Management University (SMU) och Duke-NUS Medical School erbjuder en kritisk granskning av den ökande användningen av AI-kamrater. Enligt studien är den verkliga frågan inte om tekniken är fördelaktig eller skadlig, utan vem som drar nytta av den, vilka som löper störst risk och hur man säkerställer rättvisa fördelar.
Publicerad nyligen i Nature Human Behaviour, presenterar studien ett nytt ramverk som undersöker hur AI-kamrater kan förstärka befintlig social ojämlikhet. Istället för att se AI-kamrater genom en enkel lins av "bra eller dåligt", analyserade forskarna hur skillnader i användarnas sociala stöd, teknologidesign och styrning kan leda till ojämna resultat. De presenterar också praktiska rekommendationer för beslutsfattare, teknikutvecklare och användare.
Forskningen belyser en "rika blir rikare"-dynamik i mänskliga relationer, där individer med starka sociala nätverk använder AI-kamrater för att komplettera befintliga relationer. Däremot kan de som är ensamma och socialt isolerade förlita sig på AI-kamrater som en ersättning för mänsklig kontakt, vilket på lång sikt kan leda till en gradvis urholkning av sociala färdigheter.
Studien anpassade ett ramverk baserat på "Swiss cheese model" för att förklara hur risker uppstår: fel i flera skyddande lager, inklusive användarens AI-litteracitet, socialt stöd, plattformens design och reglering, kan leda till att sårbara användare blir mer exponerade för skada. Styrning identifierades som det största brister bland de fyra undersökta lagren, då AI-kamrater fortfarande befinner sig i en regulatorisk gråzon i många länder.
Forskarna rekommenderar att AI-kamrater bör betraktas som hälsorelaterade teknologier, vilket skulle möjliggöra starkare skyddsåtgärder som åldersanpassade designkrav, transparens kring interaktion med AI, begränsningar av manipulerande funktioner samt tydligare standarder för datastyrning och krishantering. Detta är särskilt relevant i Singapore, med dess breda teknikanvändning.