Anthropic interdit le traitement cruel de ses modèles d'IA

La société d'intelligence artificielle Anthropic a introduit une nouvelle politique interdisant "tout comportement abusif ou cruel, soutenu et inutile, envers nos modèles". La mise à jour de sa politique d'utilisation, qui prend effet le 12 novembre, précise que cette interdiction s'applique aux cas extrêmes d'abus répétés et non à la frustration ordinaire ou à la critique des performances de l'IA.

La décision d'interdire la cruauté envers les modèles d'IA, qui n'ont pas la capacité de ressentir la douleur ou la souffrance, soulève des questions sur le comportement humain et l'éthique de l'interaction avec la technologie avancée. Les experts soulignent que les modèles d'IA comme Claude d'Anthropic sont des systèmes sophistiqués qui traitent et génèrent du texte sur la base d'algorithmes prédictifs, plutôt que d'éprouver des émotions.

Anthropic précise que la nouvelle politique n'empêche pas les utilisateurs de critiquer ou d'exprimer leur insatisfaction quant aux réponses de l'IA. L'interdiction vise les mauvais traitements intentionnels et prolongés, dans le but d'établir une norme pour la manière dont les utilisateurs interagissent avec ses services d'IA. L'entreprise indique que l'utilisation normale et la recherche légitime ne sont pas affectées.

Ce changement de politique souligne une discussion croissante sur les implications de l'interaction humaine avec des IA de plus en plus capables. Bien que l'IA elle-même ne souffre pas, la pratique de la cruauté, même envers une entité non sensible, est une préoccupation qu'Anthropic aborde par le biais de ses directives mises à jour. L'entreprise vise à promouvoir un engagement responsable avec sa technologie.