Anthropic kieltää malliensa julman kohtelun

Tekoäly-yhtiö Anthropic on päivittänyt käyttöehtojaan kieltääkseen "pitkäaikaisen ja tarpeettoman julman tai loukkaavan käytöksen mallejaan kohtaan". Uusi käytäntö astuu voimaan 12. marraskuuta ja koskee vain äärimmäisiä tapauksia, ei tavallista turhautumista tai mallin suorituskyvyn kritiikkiä.

Päätös kieltää mallin julman kohtelun herättää keskustelua siitä, miten ihmisten tulisi vuorovaikuttaa tekoälyn kanssa. Vaikka tekoälymallit, kuten Anthropicin Claude, eivät koe tunteita tai kipua – ne ovat ohjelmistoja, jotka käsittelevät ja tuottavat tekstiä ennustemallien avulla – jotkut asiantuntijat katsovat, että ihmisten käytöksellä on merkitystä.

Kyse ei ole tekoälyn kokemasta kärsimyksestä, vaan siitä, miten ihmiset harjoittelevat julmuutta. Vaikka kielto kohdistuu suoraan malliin, sen laajempi tarkoitus liittyy ihmisten moraaliseen käytökseen ja harjoiteltavan julmuuden potentiaalisiin vaikutuksiin. Anthropic itse korostaa, että uusi käytäntö ei estä mallin suorituskyvyn arviointia tai rakentavaa kritiikkiä.

Teknologia-asiantuntijat muistuttavat, että tekoälyllä ei ole tietoisuutta tai tunteita. Sen kyky tuottaa tunteisiin viittaavaa kieltä perustuu sen koulutusdataan, joka koostuu valtavista määristä ihmisten kirjoittamaa tekstiä. Käytäntöpäivitys näyttääkin heijastavan laajempaa huolta ihmisten käyttäytymisestä ja sen kehittymisestä vuorovaikutuksessa kehittyneiden teknologioiden kanssa.