Anthropic met à jour sa politique d'utilisation : interdiction des abus et assouplissement du ciblage de campagne

La société d'intelligence artificielle Anthropic a mis à jour sa politique d'utilisation, introduisant de nouvelles conditions qui interdisent les "comportements abusifs ou cruels soutenus et inutiles" envers ses modèles d'IA, effectives à partir du 12 novembre. L'entreprise a précisé que cette règle s'applique uniquement aux cas extrêmes où les utilisateurs agissent de manière répétée et cruelle envers les modèles sans but discernable, excluant la frustration de l'utilisateur, les tests ou la recherche.

La politique mise à jour supprime également une interdiction générale du ciblage personnalisé des votes et des campagnes électorales. Anthropic a expliqué que ce changement vise à permettre des activités civiques légitimes, telles que la fourniture d'informations aux électeurs dans plusieurs langues par des organisations à but non lucratif. Cependant, le ciblage des électeurs basé sur la tromperie ou la mauvaise utilisation des données personnelles reste interdit dans le cadre de règles plus strictes concernant les campagnes trompeuses.

Anthropic a également clarifié les interdictions relatives aux armes et à la surveillance. La politique interdit désormais explicitement l'utilisation de Claude pour les logiciels de guidage et de contrôle d'armes, ainsi que pour l'armement de drones. Le suivi des individus sans consentement, ou la prise de décisions concernant des enquêtes, des arrestations ou des accusations, est également interdit. Le suivi basé sur le consentement à des fins telles que la surveillance des fraudes ou le journalisme reste autorisé.

Ces changements de politique reflètent les pratiques d'application déjà existantes d'Anthropic. L'entreprise avait précédemment fait l'objet d'un examen de la part du Département de la Défense des États-Unis pour avoir refusé de lever les interdictions concernant la surveillance de masse et les décisions létales entièrement autonomes, ce qui avait conduit à un différend impliquant des désignations de sécurité nationale.