Anthropic interdit le 'comportement abusif ou cruel' envers l'IA Claude

La société d'IA Anthropic a mis à jour sa politique d'utilisation pour la première fois depuis plus d'un an, abordant de nouveaux cas d'utilisation abusive à haut risque. Ceux-ci incluent des applications liées à l'ingérence électorale, au développement d'armes, à la surveillance, ainsi qu'aux secteurs de la santé et de la finance.

Un ajout important à la politique interdit le "comportement abusif ou cruel soutenu et inutile" dirigé contre son modèle d'IA, Claude. Ceci étend une politique introduite en août dernier, qui permettait à Claude de mettre fin aux conversations avec des utilisateurs "persistamment nuisibles ou abusifs" dans le cadre de recherches sur le "bien-être du modèle".

Anthropic a indiqué que la terminaison des conversations reste le principal mécanisme d'application. La société n'a pas fourni de commentaires supplémentaires sur la manière dont les nouvelles règles seront surveillées ou sur les conséquences spécifiques en cas de violation.

Les mises à jour de la politique visent à faire face au paysage en évolution rapide des capacités de l'IA et à garantir un déploiement responsable. La prévention des abus est un défi crucial à mesure que la technologie de l'IA s'intègre de plus en plus dans diverses industries mondiales.