Anthropic neuvottelee tekoälyagenttien neuvottelusäännöistä
Tekoäly-yritys Anthropic keskustelee lakitoimistojen kanssa säännöistä, jotka ohjaavat tekoälyagenttien neuvotteluja käyttäjien puolesta. Tavoitteena on varmistaa, että agentit voivat neuvotella esimerkiksi hinnoista, sopimuksista ja palkoista tehokkaasti ja oikeudenmukaisesti.
Tekoäly-yritys Anthropic käy neuvotteluja lakitoimistojen kanssa luodakseen sääntöjä sille, miten tekoälyagentit voivat neuvotella ihmiskäyttäjien puolesta. Tavoitteena on määrittää, miten nämä agentit voivat edustaa käyttäjiä esimerkiksi hinnoista, sopimuksista ja palkoista käytävissä neuvotteluissa, samalla kun varmistetaan oikeudenmukaiset lopputulokset.
Lähteiden mukaan Anthropic etsii oikeudellista neuvontaa tutkiakseen, miten tekoälyagentit voivat toimia asiakkaiden edustajina ja samalla noudattaa eettisiä periaatteita. Yritys tutkii "neuvottelunormeja" älykkäiden järjestelmien välisessä vuorovaikutuksessa, sillä tekoälyagenttien odotetaan yhä useammin edustavan käyttäjiään vastapuolina olevien, mahdollisesti ristiriitaisten intressien omaavien agenttien kanssa.
Lisäksi yritys harkitsee, kuinka paljon ihmisten palautetta tekoälyagenttien tulisi pyytää neuvottelujen aikana. Pohdinnassa on myös, kuinka varovaisesti agenttien tulisi suhtautua muihin tekoälyihin, jotta vältetään turhaa epäluuloa tai salaliittoteorioita muistuttavaa päätöksentekoa. Yksi harkittava vaihtoehto on käyttäjien allekirjoittama valtuutus, joka määrittelee agentille sen tehtävät ja noudatettavat säännöt.
Samanaikaisesti Anthropic on raportoinut muutoksista omassa työntekijärakenteessaan. Viimeisen vuoden aikana yrityksen rekrytoinnissa on vähennetty vähemmän kokeneiden työntekijöiden palkkaamista. Teknisen henkilöstön osuus on laskenut 14 prosenttiin aiemmasta 21 prosentista, ja uusien vähemmän kokeneiden työntekijöiden osuus teknisissä tehtävissä on pudonnut 9 prosenttiin aiemmasta 27 prosentista.