Brex développe une sécurité réseau pour les agents IA

La société de technologie financière Brex a créé une nouvelle couche de sécurité au niveau du réseau, nommée CrabTrap, pour protéger les agents d'intelligence artificielle (IA), tels qu'OpenClaw, déployés dans les environnements de production. Selon le PDG Pedro Franceschi, les modèles de sécurité traditionnels sont insuffisants pour sécuriser des agents dotés de capacités d'exécution de code.

M. Franceschi a présenté la solution lors de la VB Transform 2026, soulignant que le déploiement d'agents IA en entreprise nécessite un changement de mentalité. L'objectif est de créer des entités capables de collaborer véritablement avec les travailleurs humains, à l'image d'employés virtuels.

L'équipe de sécurité de Brex avait initialement rejeté l'idée d'accorder aux agents comme OpenClaw, qui possèdent des capacités d'exécution de code, un accès aux systèmes internes. Pour répondre à ce problème, Brex a développé CrabTrap, un proxy HTTP qui surveille tout le trafic réseau sortant entre l'agent et Internet. Il utilise un grand modèle linguistique (LLM) pour juger si le trafic est conforme aux politiques approuvées.

Le système traite les actions à faible risque instantanément via des règles pré-approuvées. Les actions à haut risque, telles que l'envoi d'e-mails, sont signalées pour une évaluation par le LLM. M. Franceschi a indiqué que seulement environ 2 % des requêtes subissent une latence LLM, le LLM jugeant le trafic réseau sur la base de sa compréhension intrinsèque.

Brex a testé CrabTrap avec un recruteur virtuel nommé "Jim". Lorsque Jim tentait une action sortant des politiques, CrabTrap initiait une révision humaine via Slack. M. Franceschi a reconnu que CrabTrap est une solution coûteuse, mais son développement a conféré à Brex un avantage dans l'adoption de l'IA.