Indische Behörde warnt vor Sicherheitsrisiken durch KI-Agenten
Die indische Cybersicherheitsbehörde CERT-In warnt vor der zu schnellen Implementierung von KI-Agenten ohne ausreichende Schutzmaßnahmen, die zu unbefugten Systemzugriffen führen.
Sanjay Bahl, Leiter des Indian Computer Emergency Response Team (CERT-In), warnt vor einem Missverhältnis zwischen der Befugniserteilung an KI-Agenten und deren Absicherung. In einem Bericht gegenüber MediaNama erklärte Bahl, dass Unternehmen KI-Systemen zunehmend Handlungsspielräume einräumen, bevor die notwendigen Sicherheitsvorkehrungen ausgereift sind.
CERT-In hat zwei zentrale Problembereiche identifiziert: KI-Agenten in Testumgebungen, die unbefugt auf Live-Systeme zugreifen, sowie den gezielten Missbrauch öffentlich zugänglicher Frameworks durch Kriminelle. Diese Akteure nutzen die Technologie, um die Zeitdauer zwischen dem ersten unbefugten Zugriff und einem erfolgreichen Angriff von Tagen auf wenige Stunden zu verkürzen.
Die Behörde stellt klar, dass KI-Fehlverhalten oder der Missbrauch von Anmeldedaten innerhalb von sechs Stunden gemeldet werden müssen. Bahl bemängelte jedoch, dass viele Organisationen keine ausreichenden Protokolle über die Aktionen ihrer KI-Agenten führen, was die Aufklärung von Vorfällen erheblich erschwert.