La gouvernance des agents IA déplacée vers la couche de données

Alors que les entreprises accordent plus d'autonomie aux agents d'IA – la capacité de planifier, de décider et d'agir sur différents systèmes sans approbation humaine à chaque étape –, la question de savoir comment empêcher une action non autorisée devient centrale.

Les entreprises sont responsables des actions de leurs agents. Cette responsabilité ne peut être assumée a posteriori ni par des politiques abstraites. Les agents ont besoin de règles contextuelles et exécutables sur le moment, car ils manquent de jugement propre.

Plutôt que de se fier uniquement à des garde-fous autour de l'agent, tels que des instructions et une surveillance, la gouvernance doit être intégrée dans la couche de données où les agents effectuent leur travail. Une politique limitant l'accès à une classe de données n'est significative que si le système peut refuser l'accès au moment de la requête.

L'application au niveau de la couche de données est cruciale car le comportement des agents peut être probabiliste, tandis que la gouvernance doit être déterministe. Des mécanismes tels que le contrôle d'accès basé sur les rôles et les attributs, la sécurité au niveau des lignes et des colonnes, ainsi que la classification/masquage, peuvent être appliqués directement aux données. L'identité des agents doit être gérée comme un principal de première classe, avec un objectif déclaré lié au début de la session.

L'objectif n'est pas d'empêcher les agents d'effectuer un travail utile, mais de définir leurs limites, ce qu'ils peuvent toucher, ce qu'ils peuvent modifier et comment les événements peuvent être reconstitués. La gouvernance au niveau de la couche de données, basée sur des fondations open-source comme PostgreSQL, donne aux entreprises le contrôle de l'emplacement des données et de l'application des politiques, ce qui est essentiel pour les industries réglementées.