Le COO de Get Covered plaide pour une gouvernance rigoureuse des agents d'IA
L'adoption massive de l'IA agentique impose aux entreprises de définir des structures de gestion claires pour limiter les risques opérationnels.
Rick Folgmann, directeur des opérations chez Get Covered, estime que les entreprises doivent gérer leurs agents d'IA avec la même rigueur que des employés occupant des postes réglementés. Face aux prédictions indiquant qu'une part importante des projets d'IA pourrait échouer d'ici 2027 par manque de pilotage, cette approche devient critique.
La stratégie préconisée consiste à automatiser en priorité les processus basés sur des règles établies, telles que les clauses contractuelles ou les exigences réglementaires. Cela permet une évaluation objective des performances et facilite l'audit des décisions automatisées.
La responsabilité humaine demeure centrale. Chaque agent déployé par Get Covered est rattaché à un responsable humain chargé d'examiner les journaux d'erreurs et de calibrer le niveau d'autonomie du système en fonction des enjeux. Cette structure prévient les conflits entre différents agents et garantit une traçabilité des décisions prises par les logiciels.