Anthropic kieltää Claudea kohtaan suunnatun väkivaltaisen ja julman käytöksen
Tekoäly-yritys Anthropic päivitti käyttöehtojaan estääkseen vaarallisia ja epäeettisiä käyttötapauksia, kuten vaalien manipulointia ja aseiden kehitystä. Uudet säännöt kieltävät myös järjestelmällisen häirinnän tekoälyä kohtaan.
Tekoäly-yritys Anthropic on päivittänyt käyttöehtojaan ensimmäistä kertaa yli vuoteen. Muutokset heijastavat uusia, korkean riskin väärinkäytöstapauksia, jotka liittyvät muun muassa vaalien manipulointiin, aseiden kehitykseen, valvontaan sekä terveys- ja talousalan sovelluksiin.
Merkittävin uusi kielto koskee "pitkäkestoista ja tarpeetonta väkivaltaista tai julmaa käytöstä" yhtiön Claude-tekoälyä kohtaan. Tämä linjaus on jatkoa viime elokuussa julkaistuun käytäntöön, jonka mukaan Claude voi lopettaa keskustelun "jatkuvasti haitallisten tai väkivaltaisten" käyttäjien kanssa. Yhtiö tutkii näin tekoälymallien hyvinvointia.
Anthropic vahvistaa, että keskustelujen lopettaminen on edelleen ensisijainen valvontakeino. Yhtiö ei ole kommentoinut tarkemmin uusien kieltojen valvontaa tai mahdollisia seuraamuksia niiden rikkomisesta.
Muutokset pyrkivät vastaamaan tekoälyn nopeasti kehittyviin käyttömahdollisuuksiin ja varmistamaan turvallisen ja eettisen käytön globaalisti. Tekoälyn väärinkäytön estäminen on keskeinen haaste alalla.