Anthropic kieltää käyttäjiltä tekoälynsä "julman" kohtelun

Tekoäly-yritys Anthropic on herättänyt keskustelua ilmoittamalla kieltävänsä käyttäjiltä jatkuvan ja tarpeettoman epäasiallisen käytöksen sen tekoälyjärjestelmiä kohtaan. Yhtiö, joka tunnetaan Claude-tekoälymallistaan, päivitti torstaina käyttöpolitiikkaansa siten, että sen työkaluilla voidaan lopettaa vuorovaikutus henkilöiden kanssa, jotka ovat "julmia".

Anthropic selvensi, että tämä sääntö koskee vain "äärimmäisiä tapauksia" toistuvasta väärinkäytöksestä. Se ei sovellu yleisiin turhautumisen, vastustelun, synkkien luovien teemojen tai mallin testaamisen ilmauksiin. Kiellettyjen toimien listalle on lisätty kiusaaminen, itsetuhoisuuden edistäminen ja luvattoman intiimin kuvamateriaalin luominen.

Mutta se, mitä Anthropic pitää "epäasiallisena tai julmana käytöksenä" sen malleja kohtaan, jää epäselväksi. Sosiaalisessa mediassa on jaettu ja kommentoitu laajasti kuvakaappauksia uudesta käytännöstä. Osa on ylistänyt sitä "mallin hyvinvoinnin" edistämisenä, kun taas toiset ovat kritisoineet sitä. Jotkut ovat huomauttaneet, että tekoälyyn ei voi kohdistaa julmuutta, ja varoittaneet liiallisesta ihmistämisestä.

Muutokset, jotka liittyvät myös uusiin tai kehittyviin riskeihin, kuten harhaanjohtaviin kampanjoihin tai vaalivaikuttamiseen, ovat herättäneet enemmän huomiota kuin aiemmat säännöt, kuten aseiden kehittämiseen liittyvät kiellot. Keskustelu heijastaa laajempaa pohdintaa siitä, kuinka meidän tulisi kommunikoida tekoälytyökalujen kanssa, ja siitä, voiko epäkohteliaisuus vaikuttaa ihmisten väliseen kommunikaatioon.