Anthropic kieltää malliensa julman kohtelun

Tekoäly-yritys Anthropic on ottanut käyttöön uuden käytäntönsä, joka kieltää "pitkäaikaisen ja tarpeettoman julman tai epäasiallisen käytöksen mallejaan kohtaan". Muutos astuu voimaan 12. marraskuuta, ja sen tarkoituksena on puuttua äärimmäisiin tapauksiin, joissa käyttäjät toistuvasti käyttäytyvät julmasti tekoälymalleja kohtaan ilman selvää tarkoitusta.

Anthropic on korostanut, ettei uusi sääntö koske tavanomaista käyttäjän turhautumista, mallien testausta tai luovaa tutkimusta. Yritys ei myöskään väitä, että sen Claude-mallit voisivat tuntea kärsimystä. Käytännön valvonta perustuu pääasiassa siihen, että Claude voi lopettaa keskustelun jatkuvasti epäasiallisesti käyttäytyvän käyttäjän kanssa.

Tämä käytäntöpäivitys herättää laajemman keskustelun siitä, miten ihmiset suhtautuvat tekoälyyn ja millaisia mielenominaisuuksia niille projisoidaan. Psykologinen tutkimus osoittaa, että yksilöiden taipumus nähdä "mieli" koneessa vaihtelee, ja tällä on vaikutusta siihen, miten he vuorovaikuttavat tekoälyn kanssa.

Psykologit ovat havainneet, että henkilöt, jotka ovat taipuvaisempia uskomaan robotin omaavan tietoisuuden, myös kohtelevat koneita eri tavalla. Kun tekoälylle annetaan ihmismäisiä piirteitä, kuten nimi tai puheet tunteista, se voi lisätä käyttäjien taipumusta antaa sille moraalista painoarvoa ja huolehtia sen kohtelusta.

Anthropicin päätös heijastaa kasvavaa tarvetta määritellä käyttäytymisnormeja tekoälyn käytössä. Yritys pyrkii tasapainottamaan toisaalta teknologian kehityksen ja toisaalta ihmisten ja tekoälyn välisen vuorovaikutuksen eettiset ulottuvuudet.