Anthropic diskuterar regler för AI-agenters förhandlingar

AI-företaget Anthropic för diskussioner med juridiska firmor för att etablera riktlinjer för hur AI-agenter ska utföra förhandlingar å mänskliga användares räkning. Syftet är att definiera hur dessa agenter kan företräda användare i förhandlingar om priser, tvister eller löner, samtidigt som man säkerställer rättvisa resultat.

Enligt källor söker Anthropic juridisk expertis för att utreda hur AI-agenter kan agera som klienternas representanter samtidigt som de följer etiska principer. Företaget undersöker "förhandlingsnormer" för interaktioner mellan intelligenta system, då AI-agenter förväntas i allt högre grad företräda sina användare gentemot andra agenter med potentiellt motstridiga intressen.

Företaget överväger även hur mycket mänsklig feedback AI-agenterna bör begära under förhandlingar. Man diskuterar också hur försiktiga agenterna bör vara gentemot andra AI-system för att undvika onödig misstänksamhet eller konspiratoriskt beslutsfattande. Ett alternativ som övervägs är ett avtal signerat av användaren, som definierar agentens uppgifter och de regler som ska följas.

Samtidigt har Anthropic rapporterat förändringar i sin egen personalstruktur. Under det senaste året har rekryteringen av mindre erfaren personal minskat. Andelen teknisk personal har sjunkit från 21% till 14%, och andelen nyanställda med mindre erfarenhet inom tekniska roller har minskat från 27% till 9%.