Anthropic interdit le traitement cruel des modèles d'IA

La société d'IA Anthropic a introduit une nouvelle politique interdisant "un comportement abusif ou cruel soutenu et inutile envers nos modèles". Cette modification, effective à partir du 12 novembre, vise les cas extrêmes où les utilisateurs agissent de manière répétée et cruelle envers les modèles d'IA sans but discernible.

Anthropic a précisé que la nouvelle règle n'est pas destinée à couvrir la frustration courante des utilisateurs, les tests de modèles ou l'exploration créative. L'entreprise ne prétend pas que ses modèles Claude peuvent ressentir de la souffrance. L'application se fera principalement par la capacité de Claude à mettre fin aux conversations avec les utilisateurs ayant un comportement abusivement persistant.

Cette mise à jour de politique suscite des discussions plus larges sur la perception humaine de l'IA et les attributs mentaux projetés sur ces systèmes. La recherche psychologique indique que la propension des individus à percevoir un "esprit" dans les machines varie, influençant ainsi leur interaction avec l'IA.

Les chercheurs ont constaté que les personnes attribuant plus facilement une conscience aux robots ont tendance à traiter les machines différemment. Lorsque l'IA reçoit des indices d'apparence humaine, tels qu'un nom ou des discussions sur les sentiments, les utilisateurs peuvent être plus enclins à lui accorder une considération morale et à se soucier de son traitement.

La décision d'Anthropic reflète un besoin croissant d'établir des normes de comportement pour l'interaction avec l'IA, dans le but d'équilibrer le progrès technologique avec les dimensions éthiques de l'engagement humain-IA.