Indiens data suveränitet mot AI-censur
Indien måste bemöta AI-censur och exkludering genom att utveckla rättvisare, nationella datamängder. Begränsade språkresurser och utländska modeller skapar utmaningar.
Indien står inför en växande utmaning från AI-censur och exkludering av information, vilket kräver en satsning på att utveckla egna, mer rättvisa och nationellt suveräna datamängder. Utvecklingen av stora språkmodeller (LLM) kan leda till att de förstärker och sprider förvrängd eller censurerad information, särskilt för språk med låga resurser och för indiska ämnen.
Många befintliga LLM-modeller tränas huvudsakligen på västerländska eller kinesiska datauppsättningar, vilket resulterar i att västerländska eller kinesiska perspektiv dominerar. Detta kan leda till en bristfällig eller felaktig representation av indiska kulturer, såsom Advaita Vedanta. Dessutom har text-till-bild-modeller upprepade gånger framställt indier på stereotypa sätt, vilket förvärrar exkluderingen.
Statlig censur i datamängder och de LLM-modeller som bygger på dem utgör en betydande risk för Indiens informationsmiljö och suveränitet. När modellerna blir mer avancerade och används inom kritiska områden som försvar och brottsbekämpning, kan censurerad data påverka deras funktion och beslutsfattande.
Kina har redan investerat stort i att bygga nationella, validerade datamängder, men dessa är strikt statligt censurerade. Även om västerländska datamängder strävar efter att ta bort skadligt innehåll, bygger de på en bredare uppsättning öppna källor. Indien måste skapa egna, mångsidiga och ocensurerade datamängder för att säkerställa en rättvis och korrekt användning av AI.