Brex entwickelt netzwerkbasierte KI-Agentensicherheit

Das Fintech-Unternehmen Brex hat eine neuartige netzwerkbasierte Sicherheitsebene namens CrabTrap entwickelt, um KI-Agenten wie OpenClaw in Produktionsumgebungen zu schützen. Laut CEO Pedro Franceschi sind traditionelle Sicherheitsmodelle unzureichend, um Agenten mit Codeausführungsfähigkeiten abzusichern.

Franceschi stellte die Lösung auf der VB Transform 2026 vor und betonte, dass der Einsatz von KI-Agenten in Unternehmen einen Einstellungswechsel erfordert. Ziel ist es, Entitäten zu schaffen, die wirklich mit menschlichen Mitarbeitern zusammenarbeiten können, ähnlich wie virtuelle Angestellte.

Das Sicherheitsteam von Brex lehnte zunächst die Idee ab, Agenten wie OpenClaw mit Codeausführungsfähigkeiten Zugang zu internen Systemen zu gewähren. Als Reaktion darauf entwickelte Brex CrabTrap, einen HTTP-Proxy, der den gesamten ausgehenden Netzwerkverkehr zwischen dem Agenten und dem Internet überwacht. Er verwendet ein großes Sprachmodell (LLM), um zu beurteilen, ob der Verkehr mit genehmigten Richtlinien übereinstimmt.

Das System verarbeitet risikoarme Aktionen sofort über vorab genehmigte Regeln. Risikohohe Aktionen, wie das Senden von E-Mails, werden zur LLM-Bewertung markiert. Franceschi gab an, dass nur etwa 2 % der Anfragen zu LLM-Latenz führen, wobei das LLM den Netzwerkverkehr anhand seines inhärenten Verständnisses beurteilt.

Brex testete CrabTrap mit einem virtuellen Recruiter namens "Jim". Wenn Jim eine Aktion außerhalb der Richtlinien versuchte, leitete CrabTrap eine menschliche Überprüfung über Slack ein. Franceschi räumte ein, dass CrabTrap eine kostspielige Lösung ist, aber ihre Entwicklung verschaffte Brex einen Vorteil bei der KI-Einführung.