Ny rapport föreslår AI-ansvarsfördelning baserat på teknisk förmåga

Den indiska tankesmedjan The Quantum Hub har presenterat en rapport som föreslår ett nytt ramverk för att fördela ansvaret för skador orsakade av artificiell intelligens (AI). Rapporten menar att Indiens nuvarande lagstiftning, som baseras på kategorier som "mellanhand", inte är anpassad för den snabbt föränderliga AI-sektorn.

Rapporten, "Functional Taxonomy of Actors in the AI Value Chain", delar in AI:s värdekedja i åtta aktörsklasser och fem funktionella attribut. Genom att mappa dessa mot varandra skapas en matris som ska identifiera vilken aktör som har den tekniska förmågan att förebygga, mildra eller svara på en given risk. Målet är att ansvaret ska läggas på de aktörer som faktiskt har kontroll.

Hur fungerar det?

Ramverket identifierar åtta aktörsklasser: fysisk infrastruktur, moln- och infrastrukturåtkomst, dataaktörer, utvecklare av grundmodeller, mellanhandsprogramvara (orchestration & middleware), modelladaptörer och implementerare, distributionsplattformar samt slutanvändare. Dessa ställs mot fem funktionella attribut som representerar olika former av kontroll: påverkan på modellnivå, kontroll under körning, insyn i output, kontroll över distribution samt närhet till slutanvändaren.

Ramverkets centrala idé är att fokusera på funktion snarare än organisation. Ett enskilt företag kan inneha flera roller, och dess kontrollförmåga varierar mellan dessa. Rapporten hävdar att en skyldighet som läggs på en aktör som saknar motsvarande kontroll inte utgör en säkerhetsåtgärd, utan enbart en kostnad för efterlevnad utan säkerhetsfördelar.

Vad täcker inte rapporten?

Rapporten fokuserar specifikt på output från generativ AI – text, ljud och rörlig bild. Den behandlar inte direkt autonomt beslutsfattande eller handlingar i den verkliga världen, även om dessa kan vara relaterade till AI-system. Rapporten medger också att den inte tar hänsyn till marknadsmakt eller koncentration av makt inom ett företag, vilket kan vara en avgörande faktor för ansvarsfrågor.

Rapporten syftar till att erbjuda en tydligare grund för AI-reglering i Indien, men lämnar öppna frågor kring hur regleringen ska tillämpas på öppen källkodsmodeller och i fall där ansvaret är fragmenterat eller oklart.