Rubrik entwickelt KI zur Überprüfung von Agentenaktionen

Das Datensicherheitsunternehmen Rubrik entwickelt ein neues KI-System namens SAGE (Semantic AI Governance Engine), das darauf ausgelegt ist, die Aktionen seiner KI-Agenten in Echtzeit zu überwachen und zu bewerten.

Die Entwicklung adressiert den wachsenden Bedarf an der Verwaltung und Sicherung autonomer KI-Agenten. Dev Rishi, General Manager für KI bei Rubrik, stellte das System auf der Veranstaltung VB Transform 2026 vor. Er wies darauf hin, dass die Durchsetzung und Überwachung von KI-Governance-Richtlinien in der Praxis trotz ihrer Erstellung eine Herausforderung darstellt.

SAGE fungiert innerhalb der Agent Cloud-Plattform von Rubrik und ersetzt den traditionellen manuellen Genehmigungsprozess. Das System liest die semantische Absicht hinter den Aktionen der Agenten und gleicht sie mit natürlichsprachlichen Richtlinien ab. Rishi beschrieb dies als eine Verlagerung von einem "Human-in-the-Loop"-Modell zu einem "AI-in-the-Loop"-Ansatz, der anfänglich bei Sicherheitsverantwortlichen Vorsicht auslöste.

Eigene Forschungen von Rubrik zeigen, dass die Überwachung und Genehmigung von KI-Agentenaktionen oft mehr Zeit in Anspruch nimmt, als die Agenten selbst einsparen. SAGE zielt darauf ab, diesen Prozess zu optimieren und die vollständige Nutzung der Vorteile von KI zu ermöglichen. Die wirtschaftliche Effizienz des Systems basiert auf einem kleinen Sprachmodell mit deutlich geringeren Kosten und Latenzzeiten im Vergleich zu fortschrittlichen LLMs.

Rishi betonte, dass die größte Herausforderung für Unternehmen, die eine KI-Investitionsrendite (ROI) erzielen wollen, nicht die Kosten oder die Leistung sind, sondern die Erlangung von Sicherheits- und Risikogenehmigungen. SAGE zielt darauf ab, dieses Problem durch einen zuverlässigen und automatisierten Überwachungsmechanismus zu lösen.