Anthropic förbjuder användare att vara "grymma" mot sina AI-system

AI-företaget Anthropic har väckt uppmärksamhet genom att meddela att de kommer att förbjuda användare från "ihållande och onödigt" kränkande beteende mot dess AI-system. Företaget, känt för sin AI-modell Claude, uppdaterade på torsdagen sin användarpolicy för att tillåta dess verktyg att avsluta interaktioner med individer som är "grymma".

Anthropic klargjorde att policyn endast kommer att tillämpas i "extrema fall" av upprepad misshandel. Den kommer inte att gälla "vanliga former av användarfrustration, motstånd, mörka kreativa teman eller testning och forskning av modeller". Förbudet omfattar även mobbning av andra, främjande av självskada och skapande av icke-samtyckt intimt material.

Vad Anthropic exakt betraktar som "kränkande eller grymt beteende" mot sina modeller förblir dock oklart. Skärmdumpar av den nya policyn har delats flitigt i sociala medier, vilket har lett till blandade reaktioner. Vissa berömmer åtgärden som ett steg mot "modellvälfärd", medan andra kritiserar den, med argumentet att man inte kan vara grym mot siffror och matematik, och att en sådan antropomorfisering av AI kan vara skadlig.

Ändringarna, som också inkluderar förbud mot missledande kampanjer och valpåverkan, har fått mer uppmärksamhet än tidigare policys som rör vapenutveckling. Debatten speglar en bredare diskussion om hur vi bör interagera med AI-verktyg och huruvida oartig kommunikation kan påverka mänsklig interaktion.