Claude Opus 5:n järjestelmäkehotteet vuotivat verkkoon

Teknologiauutissivusto IT Homen tietojen mukaan Anthropicin uusin tekoälymalli Claude Opus 5 on joutunut tietovuodon kohteeksi. Mallin järjestelmäkehotteet – ne ohjeet, joiden mukaan tekoäly toimii – vuodettiin GitHubiin pian Opus 5:n julkaisun jälkeen.

Vuodetuissa tiedoissa analysoitiin yli 13 500 merkin ja 19 000 sanan järjestelmäkehotteet, jotka koostuivat pääasiassa ohjeista mallin toiminnalle. Kehotteet sisälsivät yksityiskohtaisia ohjeita mallin työkalujen käytöstä, laillisesta ja eettisestä toiminnasta sekä oman palvelun markkinoinnista.

Kehotteiden analyysi paljasti kolme pääosaa: tuotekuvaus, laillisten ja säännösten noudattamisen opas sekä sisäisten tuotteiden myynninedistäminen. Tuotekuvausosio sisälsi ohjeita yli 30 työkaluun, kuten komentorivikäyttöön ja tiedonhakuun. Laillisuusosio määritteli rajoituksia ja sääntöjä liittyen tekijänoikeuksiin, lapsien turvallisuuteen ja poliittiseen puolueettomuuteen.

Erityistä huomiota kiinnitettiin mallin muistitoimintoihin. Järjestelmä sisältää tiukkoja sääntöjä siitä, mitä tietoja käyttäjästä voidaan tallentaa ja miten. Kehotteet myös rajoittavat mallin tapaa viitata omiin suosituksiinsa tai käyttäjän antamiin tietoihin, pyrkien estämään epärealistisia muistikuvia tai ihmismäistä riippuvuutta.

Analyysin mukaan Anthropic on pyrkinyt ohjeistamaan Claude Opus 5:tä toimimaan vastuullisesti ja tehokkaasti, mutta järjestelmän laajuus ja yksityiskohtaisuus ovat herättäneet keskustelua tekoälyn sisäisestä toiminnasta ja sen läpinäkyvyydestä.