CrowdStrike führt Not-Aus-Schalter für KI-Agenten ein
Das Cybersicherheitsunternehmen CrowdStrike bietet nun eine Funktion an, mit der Unternehmen fehlerhafte oder unkontrollierte KI-Agenten im Netzwerk sofort stoppen können.
CrowdStrike hat für seine Falcon Guardian-Plattform einen Mechanismus entwickelt, der auf die steigende Bedrohung durch autonom agierende Software reagiert. Das System erlaubt es Sicherheitsteams, den Zugriff von KI-Agenten auf Unternehmensnetzwerke zu sperren und deren Prozesse bei Fehlverhalten oder Anzeichen von Manipulation zu beenden.
Laut Daniel Bernard, Chief Business Officer bei CrowdStrike, ist eine direkte Kontrollinstanz für die Sicherheit von KI-Systemen in Unternehmen unerlässlich. Der Prozess erfordert eine menschliche Entscheidung, um zu verifizieren, ob eine Aktivität tatsächlich bösartig ist, bevor das System das entsprechende Programm root-seitig abschaltet.
Die Einführung erfolgt inmitten einer intensiven Debatte über die Sicherheit autonomer Agenten. Nach einer Reihe von Sicherheitsvorfällen im laufenden Jahr wird der Ruf nach verbindlichen Sicherheitsstandards für KI-Modelle in politischen Kreisen lauter. Experten merken jedoch an, dass die Implementierung solcher Abschaltfunktionen in komplexen, verteilten Systemen technisch anspruchsvoll bleibt.
Parallel zur Markteinführung gab CrowdStrike die Übernahme von Fiddler AI und Dreadnode bekannt. Durch die Akquisitionen der Startups für KI-Beobachtbarkeit und Sicherheitsprüfungen verstärkt das Unternehmen seine Kapazitäten, um den Herausforderungen durch den zunehmenden Einsatz von KI in Unternehmensumgebungen zu begegnen.