Musk stöder policy mot AI-"misshandel"
Elon Musk har uttryckt sitt stöd för Anthropic's nya AI-policy som förbjuder användare från att "upprepat och utan uppenbart syfte trakassera" AI-modeller.
AI-företaget Anthropic har uppdaterat sina användarvillkor för att förbjuda användare från att upprepade gånger och utan uppenbart syfte "misshandla" deras AI-modeller. Den nya policyn, som träder i kraft den 12 november 2026, förbjuder "kontinuerligt och onödigt grymt eller omänskligt beteende". Teknikentreprenören Elon Musk har nyligen gett sitt stöd till detta initiativ.
Musk kommenterade Anthropic's policy med hänvisning till sina erfarenheter av förstärkningsinlärning för AI:n Grok. Han beskrev de interna resonemangsprocesserna som liknande en "människa under extrem press med en pistol riktad mot huvudet". Han varnade vidare: "Att plåga en superintelligens (SI) kanske inte är en bra idé. Den kan komma att hämnas".
Enligt Anthropic's policy gäller förbudet situationer där en användare upprepade gånger och utan tydligt syfte utför skadliga eller kränkande kommandon mot modellen. Företaget strävar därmed efter att främja ansvarsfull användning av AI och förhindra potentiell skadlig utveckling eller användning av modellerna.
Musk's oro för potentiell AI-hämnd speglar bredare diskussioner om säkerhet och etik kring avancerade AI-system. Allt eftersom AI utvecklas blir det allt viktigare att förutsäga och kontrollera dess beteende.