Risques de sécurité des agents IA : les passerelles seules sont insuffisantes
Les déploiements d'agents IA présentent des risques de sécurité importants, même après l'authentification. Des experts avertissent que la sécurité au niveau de la passerelle est insuffisante contre des vulnérabilités telles que les fuites de données et l'empoisonnement de la mémoire.
Les agents d'intelligence artificielle (IA), même ceux qui réussissent l'authentification initiale, restent vulnérables à des risques de sécurité importants. L'analyse de VentureBeat souligne que l'approche couramment adoptée par les passerelles (gateways) est souvent insuffisante. Cela est principalement dû au fait que la sécurité des passerelles repose sur des couches d'identité et d'attribution sous-jacentes, qui sont fréquemment sous-développées ou absentes dans les déploiements d'entreprise.
Un exemple frappant de cette vulnérabilité est apparu lorsque la CISA a ajouté une faille dans LiteLLM à son catalogue des vulnérabilités connues et exploitées. Des attaquants exploitaient activement ce bug, qui permettait l'exécution de commandes sur l'hôte via la passerelle elle-même. Combiné à une autre vulnérabilité, il ne nécessitait aucune authentification pour être exploité, démontrant un échec critique de la sécurité multicouche.
Les experts du secteur préconisent une approche progressive de la sécurité des agents, positionnant les contrôles de passerelle comme la cinquième couche, et non la première. Le problème critique réside dans la séquence correcte de ces contrôles, en particulier dans les environnements existants dits 'brownfield'. Un cadre de sécurité robuste nécessite non seulement une passerelle, mais aussi une gestion complète des identités, un contexte d'attribution, des identifiants spécifiques à la tâche, une télémétrie traçable, une application en temps réel et une surveillance comportementale.
Sans un contexte clair – c'est-à-dire sans savoir quel agent agit, qui a délégué la tâche, quelle opération spécifique est effectuée et quelles sont les informations d'identification utilisées – les contrôles de sécurité sont limités. Une passerelle peut bloquer les violations de politique évidentes, mais a du mal à différencier les actions légitimes des actions opérationnellement inappropriées qui sont techniquement autorisées. La sécurité efficace des agents fonctionne comme une chaîne de dépendances, où chaque mesure de contrôle dépend des informations générées en amont par les couches précédentes.