Anthropic ändrar användarvillkor för att förbjuda missbruk av modeller och valpåverkan
Anthropic har uppdaterat sina användarvillkor för att uttryckligen förbjuda upprepat missbruk av dess Claude-modell, inklusive valpåverkan och skapande av skadligt innehåll. Ändringarna träder i kraft omedelbart.
AI-företaget Anthropic har förtydligat sina användarvillkor för att förhindra att användare missbrukar dess Claude-modell. Den uppdaterade policyn förbjuder upprepat och extremt missbruk av modellen, men tillåter fortfarande vanlig frustration och kritik.
Uppdateringen syftar till att stoppa användningen av AI för bland annat valpåverkan, genomförande av vilseledande kampanjer, utveckling av vapenprogramvara och övervakningsändamål. Företaget har inte gett några detaljer om hur de planerar att övervaka eller verkställa de nya reglerna.
Ändringarna återspeglar en växande oro över AI:s potentiella skadliga tillämpningar, särskilt med kommande val. Många AI-företag står inför utmaningen att balansera öppenhet med säkerhet, samtidigt som de strävar efter att främja ansvarsfull AI-utveckling och användning.
Anthropic har tidigare uttryckt sitt engagemang för AI-säkerhet och etisk utveckling. De nya reglerna är en del av en bredare ansträngning att säkerställa att deras teknologi används för fördelaktiga och säkra ändamål.