Les entreprises ont déployé des agents IA avant les contrôles de gouvernance
Les entreprises ont déployé des agents IA plus rapidement que les contrôles nécessaires pour les gérer, une situation reconnue par les organisations elles-mêmes, selon une étude de VentureBeat Research menée en juin.
Les entreprises ont adopté des agents d'intelligence artificielle à un rythme qui dépasse le développement des mécanismes de gouvernance et de contrôle nécessaires, selon une nouvelle étude de VentureBeat. Les organisations sont conscientes de cette lacune et investissent désormais activement dans la mise en œuvre de normes et de contrôles.
La recherche a examiné cinq couches clés de gouvernance des agents : l'identité, l'évaluation, la télémétrie des coûts, la couche de contexte et l'orchestration. Des changements significatifs sont prévus dans ces domaines, 57 % à 68 % des entreprises ayant l'intention de changer ou d'ajouter des fournisseurs dans les 12 prochains mois.
La majorité des "agents" déployés sont en réalité des chatbots sophistiqués plutôt que de véritables systèmes autonomes. Seulement 10 % des entreprises ont signalé que les véritables agents capables d'effectuer des tâches en plusieurs étapes constituent la majorité de leurs systèmes déployés, ce qui suggère une incompréhension généralisée des capacités utilisées.
L'étude a également révélé que l'autonomie dépasse la confiance dans les processus d'évaluation. Deux tiers des entreprises permettent aux agents d'apporter des modifications à la production sur la base de seules évaluations automatisées, ou travaillent activement dans ce sens. Cependant, seulement 5 % font entièrement confiance à ces évaluations automatisées, et la moitié des entreprises ont connu des défaillances en contact avec le client après que les agents aient passé des évaluations internes.
En outre, les entreprises qui autorisent le partage d'informations d'identification par les agents sont confrontées à une fréquence plus élevée de problèmes de sécurité. Soixante-neuf pour cent des organisations autorisent le partage d'informations d'identification entre certains agents. Ces entreprises ont signalé des incidents de sécurité ou des quasi-accidents à un taux de 63,5 %, contre 40,9 % dans les entreprises où chaque agent possède une identité distincte et délimitée.