Claude Opus 5:s systeminstruktioner läckta till nätet

Enligt den tekniska nyhetssajten IT Home har Anthropic's senaste AI-modell, Claude Opus 5, utsatts för en dataläckning. Modellens systeminstruktioner – de direktiv som styr AI:ns beteende – läcktes till GitHub kort efter lanseringen av Opus 5.

De läckta uppgifterna analyserade över 13 500 tecken och 19 000 ord av systeminstruktioner, som huvudsakligen bestod av riktlinjer för modellens funktion. Instruktionerna inkluderade detaljerade anvisningar om hur modellen skulle använda sina verktyg, hur den skulle agera lagligt och etiskt, samt hur den skulle marknadsföra sin egen tjänst.

Analysen av instruktionerna avslöjade tre huvuddelar: en produktbeskrivning, en handbok för laglighet och regelefterlevnad samt marknadsföring av interna produkter. Produktbeskrivningsdelen innehöll instruktioner för över 30 verktyg, inklusive användning av kommandoraden och informationssökning. Laglighetsdelen definierade begränsningar och regler relaterade till upphovsrätt, barnsäkerhet och politisk neutralitet.

Särskild uppmärksamhet ägnades åt modellens minnesfunktioner. Systemet innehåller strikta regler för vilken information om användaren som kan lagras och hur. Instruktionerna begränsar också hur modellen får referera till sina egna rekommendationer eller information som ges av användaren, för att förhindra orealistiska minnesbilder eller ett mänskligt liknande beroende.

Enligt analysen har Anthropic försökt vägleda Claude Opus 5 att agera ansvarsfullt och effektivt, men systemets omfattning och detaljnivå har väckt diskussioner om AI:ns inre funktion och dess transparens.