agorum® Software publie un guide pour évaluer la conformité des plateformes d'IA

La responsabilité de la conformité au RGPD et au règlement européen sur l'IA (IA Act) incombe aux entreprises qui déploient ces technologies. Pour répondre à cet enjeu, agorum® Software GmbH a établi une liste de sept questions fondamentales visant à évaluer si une plateforme d'IA permet aux entreprises de conserver le contrôle nécessaire sur leurs données et leurs processus.

L'approche préconisée par agorum® repose sur le maintien des droits d'accès existants au sein de l'entreprise. Dans leur solution agorum® core pro, l'IA ne peut accéder qu'aux documents pour lesquels l'utilisateur dispose des droits de lecture, évitant ainsi tout accès non autorisé aux informations sensibles. Par ailleurs, un système de gestion des données personnelles (PII-handler) remplace les identifiants nominatifs par des jetons avant tout traitement par un modèle d'IA.

La société souligne qu'un outil logiciel ne peut pas se substituer à la responsabilité juridique de l'entreprise. Il appartient aux organisations de superviser l'utilisation de ces systèmes, d'auditer les requêtes et de pouvoir modifier les modèles d'IA en fonction de l'évolution des exigences réglementaires. Ce cadre vise à offrir une transparence accrue pour faciliter les audits de conformité.