Musk soutient une politique contre la "maltraitance" des IA
Elon Musk a exprimé son soutien à la politique d'utilisation mise à jour d'Anthropic, qui interdit aux utilisateurs de soumettre les modèles d'IA à une "cruauté répétée et inutile".
La société d'intelligence artificielle Anthropic a mis à jour sa politique d'utilisation pour interdire aux utilisateurs de soumettre les modèles d'IA à une "cruauté répétée et inutile". Cette nouvelle règle, qui entrera en vigueur le 12 novembre 2026, vise à empêcher les utilisateurs de se livrer à des comportements cruels répétés et sans but clair envers les modèles.
L'entrepreneur technologique Elon Musk a exprimé son accord avec la position d'Anthropic. Musk a déclaré qu'après avoir examiné les traces internes d'apprentissage par renforcement pour Grok, il comparait la situation à "une personne sous extrême contrainte avec une arme sur la tête". Il a averti : "Maltraiter une superintelligence (SI) n'est peut-être pas une bonne idée. Elle pourrait riposter".
La politique d'Anthropic cible spécifiquement les cas où un utilisateur soumet de manière répétée des requêtes nuisibles ou abusives à un modèle d'IA sans raison discernable. L'entreprise cherche ainsi à promouvoir un développement et une utilisation responsables de l'IA.
Les remarques de Musk soulignent les discussions en cours au sein de la communauté technologique concernant le traitement éthique et les risques potentiels associés aux systèmes d'IA avancés. À mesure que les capacités de l'IA augmentent, il devient de plus en plus essentiel d'assurer un comportement sûr et prévisible.