Les entreprises signalent des incidents de sécurité généralisés liés aux agents IA

Plus de la moitié des entreprises (54 %) ont déjà été confrontées à un incident de sécurité confirmé ou à un quasi-incident impliquant des agents d'intelligence artificielle (IA), selon une nouvelle recherche de VentureBeat. L'étude souligne un fossé critique entre l'autonomie accordée aux agents IA et les contrôles en place pour les gérer.

La principale faiblesse réside dans la gestion des identités, seulement environ un tiers (32 %) des organisations attribuant à chaque agent IA sa propre identité distincte et délimitée. La majorité des agents continuent de partager des identifiants ou des clés API, augmentant considérablement l'impact potentiel d'un seul agent compromis. De plus, seulement trois entreprises sur dix (30 %) isolent leurs agents à haut risque dans des environnements de type bac à sable ('sandboxes') pour limiter les dommages potentiels.

L'infrastructure de sécurité pour les agents IA est largement empruntée aux fournisseurs de cloud et aux développeurs de modèles IA, plutôt que d'être spécialement conçue pour cet usage. Malgré une satisfaction déclarée à l'égard de ces outils existants, une majorité d'entreprises prévoient de changer leurs outils de sécurité dans l'année. Les dépenses consacrées à la sécurité des agents IA restent une faible fraction des budgets de sécurité globaux, et seulement un tiers des entreprises estiment que leurs défenses suivent le rythme des attaquants utilisant l'IA.

La recherche, basée sur les réponses de 107 entreprises de plus de 100 employés, suggère une détection proactive des problèmes, comme en témoigne le taux élevé de quasi-incidents. Cependant, elle souligne le besoin urgent de solutions de sécurité plus robustes et dédiées pour faire face à l'évolution du paysage des menaces posé par les agents IA autonomes.