Les entreprises échouent à isoler les agents IA à haut risque

Une nouvelle étude de VentureBeat Pulse Research met en lumière une vulnérabilité significative dans la sécurité des agents IA en entreprise. Alors que 65 % des organisations appliquent des permissions limitées à l'exécution pour leurs agents IA, seulement 18 % isolent leurs agents les plus à risque. Cette constatation souligne un risque croissant à mesure que l'autonomie des agents IA s'étend.

L'enquête menée auprès de 116 entreprises a révélé que 53 % utilisent des agents IA en production, et 27 % supplémentaires les expérimentent en phase pilote. Des incidents de sécurité spécifiques aux agents ou des quasi-accidents se sont déjà produits dans 53 % des organisations, contribuant à une confiance décroissante dans la sécurité des agents. Le partage d'informations d'identification persiste dans près des deux tiers des flottes d'agents.

Le problème central identifié est une lacune dans le confinement. Les entreprises ont mis en place des contrôles de surveillance et de permissions, mais manquent de mécanismes robustes pour limiter les dommages en cas d'échec. Seulement 21 % des agents en production sont isolés, et seulement 8 % combinent l'isolement avec l'application des permissions, un ordre inversé par rapport à une stratégie de défense en profondeur.

La confiance dans la sécurité a diminué, 30 % des entreprises estimant que les attaquants armés par l'IA ont une longueur d'avance sur leurs défenses. Malgré une forte satisfaction à l'égard des outils actuels, 74 % prévoient d'adopter, d'ajouter ou de remplacer des outils de sécurité pour les agents dans les douze prochains mois, ce qui indique une forte demande pour des mesures de sécurité améliorées.