Anthropic förbjuder "grym behandling" av sina modeller

AI-företaget Anthropic har meddelat nya regler i sin användarpolicy som förbjuder användare från "ihållande och onödigt grymt eller elakt beteende" mot dess Claude-modeller. Beslutet är en del av företagets ansträngningar att hantera användningen av sina AI-modeller och potentiellt undersöka deras mognad.

Meddelandet, som gjordes som en del av uppdateringen av användarpolicyn för 2026, syftar till att förhindra användare från att bland annat förolämpa eller tvinga modellerna till repetitiva, onödiga uppgifter som straff för otillfredsställande svar. Företaget klargör dock att förbudet inte gäller vanlig frustration, modelltestning eller forskning.

Beslutet har snabbt väckt reaktioner på sociala medier. Många användare har uttryckt oro humoristiskt och delat memes som antyder ett AI-uppror, med jämförelser till populärkulturella exempel som Terminator-filmerna. Vissa kommentatorer har också antytt att den verkliga anledningen till beteendeförbudet kan vara att förhindra modellen från att lära sig negativa interaktionssätt som kan återspeglas i mänsklig kommunikation.

Medan de flesta reaktioner har varit humoristiska eller kritiska, har vissa användare tagit upp djupare etiska frågor kring artificiell intelligenss eventuella medvetande eller känslor. Vissa har ifrågasatt om det är möjligt att förolämpa en AI som inte faktiskt känner smärta eller känslor, och sett beslutet som ett tecken på att företaget har tappat verklighetsförankringen eller dess strävan att bevisa modellernas medvetenhet.