Indiens IT-ministerium uppmanar ministerier att skjuta upp användningen av AI-modeller från OpenAI och Anthropic för cybersäkerhet

En avdelning inom Indiens ministerium för elektronik och informationsteknologi (MeitY) har informellt bett landets centrala ministerier att pausa implementeringen av AI-modeller utvecklade av amerikanska företag som OpenAI och Anthropic för cybersäkerhetsändamål. Denna uppmaning kom efter att representanter för de två AI-företagen föreslagit sina modeller för flera ministerier.

Enligt rapporter är det oklart hur många ministerier som kontaktats eller på vilken nivå mötena ägt rum. Ministeriet har inte utfärdat ett permanent förbud, utan snarare ifrågasatt tidpunkten för implementeringen och varnat för förhastade beslut. Finansministeriet hade specifikt begärt klarhet kring agent-AI och OpenAI:s modeller, med en begäran om att undersöka användningen av GPT-5.5 för cybersäkerhet.

Beslutet kommer i en tid av ökad granskning av de cybersäkerhetsrisker som alltmer kapabla AI-system utgör. Indiens IT-minister, Ashwini Vaishnaw, har nyligen förespråkat en ny AI-lagstiftning, då den befintliga IT-lagen inte är anpassad för den snabba teknikutvecklingen. Indiens finansminister, Nirmala Sitharaman, har också varnat finanssektorn för hur AI kan automatisera sårbarhetsupptäckt och snabba på cyberattacker.

Avancerade AI-modeller kan identifiera mjukvarufel och assistera vid incidenthantering, men dessa kapabiliteter är dubbelverkande. Samma sårbarheter som AI kan upptäcka för försvarare kan även utnyttjas av angripare. Både OpenAI och Anthropic har erkänt riskerna och infört skyddsåtgärder i sina modeller.

Uppmaningen att skjuta upp användningen av AI för cybersäkerhet väcker också frågor kring Indiens teknologiska suveränitet och hur nya AI-system ska integreras i regeringens funktioner. Landet stöder inhemska AI-utvecklare, men det råder fortfarande osäkerhet kring regelverket för implementering av avancerade AI-modeller inom myndigheter.