CERT-In lanserar nya riktlinjer för revision av AI-säkerhet i Indien
Den indiska cybersäkerhetsmyndigheten CERT-In har infört ett riskbaserat ramverk för granskning av AI-system.
Indiens Computer Emergency Response Team (CERT-In) har presenterat nya riktlinjer för revision av AI-säkerhet. Ramverket gäller alla organisationer som utvecklar, distribuerar eller opererar AI-system i Indien, eller som hanterar indisk data.
Revisionerna delas upp i nio kärnområden, inklusive dataintegritet, modellriskhantering och etik. Systemen klassificeras i fyra riskkategorier baserat på faktorer som autonomi, datakänslighet och potentiell påverkan på kritisk infrastruktur. Denna klassificering dikterar hur ofta och hur oberoende revisionerna måste utföras.
En central del av riktlinjerna är kravet på mänsklig tillsyn. Beroende på risknivå ställs krav på allt från direkta ingripanden i beslutsprocesser till periodiska granskningar. Organisationer måste även säkerställa att individer kan bestrida beslut fattade av AI.
Efter en revision måste organisationer åtgärda identifierade brister inom fastställda tidsramar. Initiativet syftar till att skapa en standardiserad metod för att hantera risker förknippade med generativ AI och autonoma system.