Anthropic discute des règles pour les négociations d'agents IA

La société d'intelligence artificielle Anthropic est en pourparlers avec des cabinets d'avocats pour établir des directives sur la manière dont les agents IA négocieront en faveur des utilisateurs humains. L'objectif est de définir comment ces agents pourront représenter les utilisateurs dans des négociations portant sur les prix, les contrats ou les salaires, tout en garantissant des résultats équitables.

Selon des sources, Anthropic recherche des conseils juridiques pour étudier comment les agents IA peuvent agir en tant que représentants de clients tout en respectant les principes éthiques. L'entreprise explore des « normes de négociation » pour les interactions entre systèmes intelligents, car les agents IA sont de plus en plus susceptibles de représenter leurs utilisateurs face à d'autres agents ayant des objectifs potentiellement divergents.

La société examine également dans quelle mesure les agents IA devraient solliciter un retour humain pendant les négociations. Il est en outre question de déterminer le degré de prudence que les agents devraient adopter lorsqu'ils interagissent avec d'autres systèmes d'IA, afin d'éviter une méfiance excessive ou une prise de décision rappelant les théories du complot. Une option envisagée est un document d'autorisation signé par l'utilisateur, qui définirait la mission de l'agent et les règles à suivre.

Parallèlement, Anthropic a signalé des changements dans sa structure d'effectifs. Au cours de la dernière année, l'entreprise a réduit le recrutement de personnel junior. La proportion d'employés juniors dans ses départements techniques est passée de 21 % à 14 %, avec une baisse plus marquée du recrutement de nouveaux employés juniors dans les postes techniques, tombant de 27 % à 9 %.