Indiens IT-Ministerium fordert Ministerien auf, den Einsatz von KI-Modellen von OpenAI und Anthropic für Cybersicherheit auszusetzen

Eine Abteilung innerhalb des indischen Ministeriums für Elektronik und Informationstechnologie (MeitY) hat Berichten zufolge Zentralministerien angewiesen, die Einführung von KI-Modellen der US-Unternehmen OpenAI und Anthropic für Cybersicherheitsfunktionen auszusetzen. Diese Anweisung erfolgte, nachdem Vertreter der beiden KI-Firmen Vorschläge bei verschiedenen Ministerien eingereicht hatten.

Das Memorandum verbietet die Nutzung der Modelle nicht dauerhaft, stellt jedoch die Zeitplanung für die Einführung in Frage und warnt vor einer vorzeitigen Inbetriebnahme. Beispielsweise hatte das Finanzministerium um Klärung bezüglich des Einsatzes von Agenten-KI und den Modellen von OpenAI gebeten und insbesondere die Prüfung von GPT-5.5 für Cybersicherheitsaufgaben vorgeschlagen.

Diese Entwicklung findet vor dem Hintergrund wachsender Bedenken hinsichtlich der Cybersicherheitsrisiken statt, die von immer leistungsfähigeren KI-Systemen ausgehen. Indiens IT-Minister Ashwini Vaishnaw hat kürzlich ein neues KI-Gesetz gefordert, da der derzeitige IT-Act der rasanten technologischen Entwicklung hinterherhinkt. Finanzministerin Nirmala Sitharaman hat Finanzinstitute ebenfalls vor den potenziellen Gefahren gewarnt, dass KI die Entdeckung von Schwachstellen automatisieren und Cyberangriffe beschleunigen könnte.

Während fortschrittliche KI-Modelle Software-Schwachstellen identifizieren und bei der Reaktion auf Cybersicherheitsvorfälle helfen können, ist diese Technologie zweischneidig. Dieselben Schwachstellen könnten auch von Angreifern ausgenutzt werden. Sowohl OpenAI als auch Anthropic haben diese Risiken anerkannt und Schutzmaßnahmen in ihre fortschrittlichen KI-Modelle integriert.

Die Anweisung, den Einsatz von KI für die Cybersicherheit auszusetzen, wirft auch Fragen hinsichtlich der technologischen Souveränität Indiens und des Rahmens für den Einsatz fortschrittlicher KI-Systeme innerhalb der Regierung auf. Das Land fördert heimische KI-Entwickler, aber es herrscht weiterhin Unklarheit über die Vorschriften für den Einsatz modernster KI-Systeme in den Ministerien.