Tutkimus: Tekoälykaverit voivat syventää sosiaalista eriarvoisuutta
Singaporen yliopistojen tutkimus esittää uuden viitekehyksen tekoälykavereiden vaikutusten ymmärtämiseksi sosiaaliseen eriarvoisuuteen. Tutkimus julkaistiin Nature Human Behaviour -lehdessä.
Uusi tutkimus Singapore Management Universitysta (SMU) ja Duke-NUS Medical Schoolista tarjoaa kriittisen tarkastelun tekoälykavereiden yleistyvästä käytöstä. Tutkimuksen mukaan teknologian todellinen kysymys ei ole sen hyödyllisyys tai haitallisuus, vaan se, kuka siitä hyötyy ja ketkä ovat eniten vaarassa, sekä miten varmistaa tasa-arvoiset edut.
Julkaistu hiljattain Nature Human Behaviour -lehdessä, tutkimus esittelee uuden viitekehyksen, joka tarkastelee, miten tekoälykaverit voivat pahentaa olemassa olevaa sosiaalista eriarvoisuutta. Sen sijaan, että tekoälykavereita tarkasteltaisiin yksinkertaisesti hyvän tai pahan luokassa, tutkijat analysoivat, miten käyttäjien sosiaalisen tuen erot, teknologian suunnittelu ja hallintotavat voivat johtaa epätasa-arvoisiin lopputuloksiin. He esittävät myös käytännön suosituksia päätöksentekijöille, teknologiakehittäjille ja käyttäjille.
Tutkimus tuo esiin "rikkaat rikastuvat" -dynamiikan ihmissuhteissa, jossa vahvat sosiaaliset verkostot omaavat ihmiset käyttävät tekoälykavereita täydentämään olemassa olevia suhteitaan. Sen sijaan yksinäiset ja sosiaalisesti eristäytyneet henkilöt voivat tukeutua tekoälykavereihin ihmiskontaktin korvikkeena, mikä voi pitkällä aikavälillä johtaa sosiaalisten taitojen rapistumiseen.
Tutkimuksessa sovellettiin Sveitsin juustomalliin perustuvaa viitekehystä, jossa useiden samanaikaisten turvakerrosten pettäminen, kuten käyttäjän tekoälylukutaito, sosiaalinen tuki, alustan suunnittelu ja sääntelyvalvonta, voi altistaa haavoittuvia käyttäjiä haitoille. Hallintoa pidettiin neljästä tarkastellusta kerroksesta suurimpana puutteena, sillä tekoälykaverit ovat monissa maissa edelleen sääntelyn harmaalla alueella.
Tutkijat suosittelevat, että tekoälykavereita tulisi käsitellä terveyteen liittyvinä teknologioina, mikä mahdollistaisi vahvemmat suojatoimet, kuten ikätason mukaiset suunnitteluvaatimukset, läpinäkyvyyden vuorovaikutuksesta tekoälyn kanssa, manipuloivien ominaisuuksien rajoittamisen sekä selkeämmät tietosuoja- ja kriisinhallintastandardit. Tämä on erityisen merkittävää Singaporessa, jossa teknologian käyttö on laajaa.