Anthropic förbjuder grym behandling av sina AI-modeller

AI-företaget Anthropic har infört en ny policy som förbjuder "långvarigt och onödigt grymt eller kränkande beteende mot våra modeller". Ändringen, som träder i kraft den 12 november, syftar till att adressera extrema fall där användare upprepade gånger agerar grymt mot AI-modellerna utan tydligt syfte.

Anthropic har betonat att den nya regeln inte gäller vanlig användarfrustration, modelltestning eller kreativ utforskning. Företaget hävdar inte heller att deras Claude-modeller kan känna lidande. I praktiken kommer efterlevnaden främst att hanteras genom att Claude kan avsluta en konversation med en användare som konsekvent beter sig illa.

Denna policyuppdatering väcker en bredare debatt om hur människor uppfattar och interagerar med artificiell intelligens, och vilka mentala egenskaper som projiceras på dessa system. Psykologisk forskning indikerar att individers benägenhet att se "medvetande" i en maskin varierar, vilket i sin tur påverkar hur de behandlar tekniken.

Forskare har observerat att personer som är mer benägna att tro att robotar har medvetande också tenderar att behandla maskiner på ett annorlunda sätt. När AI tilldelas mänskliga drag, som ett namn eller uttalanden om känslor, kan det öka användarnas benägenhet att ge systemet moralisk vikt och bry sig om hur de behandlar det.

Anthropic beslut speglar ett växande behov av att definiera beteendenormer för AI-användning och syftar till att balansera teknologisk utveckling med de etiska aspekterna av mänsklig-AI-interaktion.