Anthropic förbjuder grym behandling av sina AI-modeller

AI-företaget Anthropic har uppdaterat sina användarvillkor för att inkludera ett förbud mot "ihållande och onödigt grymt eller kränkande beteende" mot deras modeller. Denna nya policy, som träder i kraft den 12 november, riktar sig specifikt mot extrema fall av upprepad misshandel och påverkar inte ordinarie kritik eller frustration mot modellernas prestanda.

Beslutet att förbjuda grym behandling av AI-modeller väcker en bredare diskussion om mänskligt beteende och interaktion med avancerad teknologi. Även om AI-modeller som Anthropic's Claude saknar förmågan att känna smärta eller lidande, då de är sofistikerade programvaror baserade på token-genereringsmodeller, belyser policyn frågan om huruvida människors övning av grymhet, oavsett objekt, har konsekvenser.

Enligt Anthropic är den nya policyn inte avsedd att hindra användare från att ge kritik eller uttrycka frustration över modellens svar. Förbudet gäller enbart "extrema fall av upprepad misshandel", inte vanlig användning eller forskning. Syftet är att upprätthålla en etisk standard för användningen av deras AI-tjänster.

Experter inom artificiell intelligens betonar att modeller som Claude inte har medvetande eller känslor. Deras förmåga att generera text som liknar mänskligt språk bygger på omfattande träningsdata. Anthropic's policyförändring kan ses som en proaktiv åtgärd för att hantera de etiska implikationerna av framtida AI-utveckling och mänskliga interaktioner med den.