DSCI föreslår ramverk för ansvarsfördelning vid skador orsakade av AI-agenter

Data Security Council of India (DSCI) har publicerat ett diskussionsunderlag som föreslår hur ansvaret ska fördelas när autonoma AI-agenter orsakar skador. Istället för att införa ny lagstiftning föreslår rådet att befintliga legala principer, såsom produktansvar och vårdplikt, appliceras på hela AI-ekosystemet.

Ramverket delar upp aktörer i fem grupper, från slutanvändare till molninfrastrukturleverantörer. Enligt DSCI bör ansvaret ligga hos den part som har störst kontroll över systemets kritiska beslut, såsom konfiguration, behörigheter och mänsklig tillsyn. Detta är särskilt relevant då AI-agenter numera kan fatta egna beslut och interagera med API:er utan konstant mänsklig inblandning.

Bland de identifierade riskerna finns dataintrång, ekonomiska felaktigheter och AI-stödd brottslighet. För att motverka dessa rekommenderar DSCI implementering av säkerhetsåtgärder som ”kill switches” och krav på mänskligt godkännande för kritiska processer. Rådet samlar nu in feedback från branschen som ett led i landets pågående arbete med att reglera AI-användning.