Indien behöver reglering för automatiserat beslutsfattande

Indiens rättssystem behandlar för närvarande ett fall som kan forma landets inställning till reglering av automatiserat beslutsfattande. Två bröder från Hyderabad har utmanat Indiens valkommissions (Election Commission of India) användning av programvara i domstol, med argumentet att den avlägsnade dem från röstlängden utan korrekt förfarande.

Fallet uppstår i en tid då många av Indiens offentliga och privata tjänster, såsom teleoperatörer och långivare, alltmer använder automatiserade system för beslutsfattande. Till skillnad från till exempel Kalifornien, Colorado och Europeiska unionen, innehåller Indiens senaste lag om skydd av digitala personuppgifter (Digital Personal Data Protection Act, 2023) inga explicita bestämmelser om automatiserat beslutsfattande. Detta lämnar användarna med oklarhet kring grunderna för beslut och möjligheter till överklagande.

I rättsfallet kräver bröderna att inga borttagningar från röstlängden enbart baserade på en programvarugenererad flaggning får ske utan en myndighetskontroll och ett motiverat beslut efter en förhandling. De begär också att valkommissionen avslöjar systemets funktionsprinciper, algoritmer och revisionsrapporter. Målet är att säkerställa att medborgarrättigheter, såsom rösträtten, inte nekas utan en transparent och rättvis process.

Valkommissionen har meddelat att de kommer att utreda saken och inrätta en kommitté för att granska deras ECINET-plattform mot lagstiftningen. Liksom i andra länder har dock visat sig att enbart ett mänskligt godkännande av ett automatiserat systemets beslut inte nödvändigtvis garanterar rättvisa om tiden som ägnas åt beslutsfattandet är minimal eller processen annars ogenomskinlig.

Indien förväntas granska internationella exempel och utveckla sin egen lagstiftning för automatiserat beslutsfattande. Detta rättsfall kan utgöra det första utkastet till nödvändiga regleringar som garanterar medborgarna rätten att förstå och utmana beslut fattade av algoritmer.