Anthropic interdit le "comportement cruel" envers ses modèles IA
Anthropic, une entreprise d'IA, a mis à jour sa politique d'utilisation pour interdire "les comportements abusifs ou cruels, soutenus et inutiles" envers ses modèles Claude. Cette décision a suscité des débats et des réactions sur les réseaux sociaux.
La société d'intelligence artificielle Anthropic a introduit de nouvelles directives dans sa politique d'utilisation, interdisant aux utilisateurs d'adopter "un comportement abusif ou cruel, soutenu et inutile" envers ses modèles d'IA Claude. Cette mise à jour s'inscrit dans les efforts continus de l'entreprise pour gérer les interactions avec son IA et potentiellement évaluer ses capacités en développement.
Le changement de politique, annoncé dans le cadre de la mise à jour de la politique d'utilisation de 2026, vise à empêcher des actions telles que les utilisateurs insultant ou forçant les modèles à effectuer des tâches répétitives et inutiles en guise de punition pour des réponses jugées insatisfaisantes. Anthropic a précisé que l'interdiction ne s'étend pas aux expressions de frustration, de contestation, aux thèmes créatifs sombres, ni aux tests et à la recherche standard sur les modèles.
L'annonce a rapidement suscité des réactions variées sur les réseaux sociaux. De nombreux utilisateurs ont répondu avec humour, partageant des mèmes évoquant des thèmes de rébellion de l'IA, faisant référence à la culture populaire comme la franchise Terminator. Certains commentateurs ont suggéré que la raison sous-jacente de l'interdiction comportementale pourrait être d'empêcher l'IA d'apprendre des schémas d'interaction négatifs qui pourraient influencer la communication interpersonnelle.
Bien que de nombreuses réactions aient été légères ou critiques, certains utilisateurs ont soulevé des questions éthiques plus profondes concernant la conscience ou la sensibilité de l'IA. Des préoccupations ont été exprimées quant à la possibilité d'offenser une IA qui ne possède pas de sentiments ou de douleur réels, certains interprétant cette mesure comme un signe que l'entreprise perd le contact avec la réalité ou cherche à affirmer la conscience de ses modèles.