Anthropic uppdaterar användarvillkor: förbud mot trakasserier och ändringar för kampanjinriktning

AI-företaget Anthropic har tillkännagivit en uppdatering av sina användarvillkor som förbjuder "ihållande och onödigt kränkande eller grymt beteende" mot dess AI-modeller. De nya reglerna, som träder i kraft den 12 november, gäller endast i extrema fall där användare upprepade gånger agerar grymt mot modellerna utan uppenbart syfte. Användares frustration, motstånd, mörka kreativa teman eller modelltestning och forskning undantas dock från förbudet.

Samtidigt har Anthropic tagit bort sitt generella förbud mot personifierad röstning och kampanjinriktning. Företaget motiverar förändringen med att den tidigare regeln hindrade legitimt medborgararbete, såsom icke-vinstdrivande organisationers informationsarbete till väljare på olika språk. Riktning mot väljare baserad på vilseledande information eller missbruk av personuppgifter förblir förbjuden.

Företaget har också förtydligat sina förbud gällande vapen och övervakning. Claude-modellen får inte längre användas för utveckling av vapenledningssystem eller autonoma drönare. Dessutom är det förbjudet att spåra människor utan samtycke, eller att fatta eller påverka beslut om utredningar, gripanden eller åtal. Däremot tillåts fortfarande samtyckesbaserad spårning, såsom bedrägeribekämpning eller journalistik.

Uppdateringarna återspeglar enligt Anthropic redan befintlig praxis. Företaget vägrade tidigare att följa USA:s försvarsdepartements krav på att ta bort förbudet mot massövervakning av amerikanska medborgare och autonoma dödliga beslut, vilket ledde till en dispyt mellan företaget och Pentagon.