Cisco lance une base de données gratuite pour vérifier l'origine des modèles d'IA ouverts
Cisco a lancé l'explorateur de provenance de la chaîne d'approvisionnement de l'IA, un nouvel outil gratuit visant à accroître la transparence et la sécurité des modèles d'IA ouverts. La base de données analyse près de 900 modèles, vérifiant leur lignée par des moyens techniques.
Cisco a lancé l'AI Supply Chain Provenance Explorer, une base de données publique gratuite conçue pour améliorer la transparence et la sécurité des modèles ouverts d'intelligence artificielle (IA). L'outil fournit des détails sur près de 900 modèles open-source, y compris le siège social des fournisseurs, des graphes de lignée, des restrictions de licence et le nombre de fichiers analysés.
L'explorateur s'appuie sur le kit open-source Python de Cisco, le Model Provenance Kit, précédemment publié. Historiquement, la lignée des modèles d'IA reposait fortement sur des métadonnées auto-déclarées, comme la balise "base_model" sur des plateformes telles que Hugging Face. Cette balise, remplie par le téléchargeur, manquait de vérification indépendante. La nouvelle approche de Cisco utilise l'analyse de similarité de l'architecture et des poids du modèle pour fournir une méthode plus robuste de confirmation de la dérivation du modèle.
De plus, l'AI Supply Chain Provenance Explorer intègre des données d'analyse de sécurité. Cisco a précédemment développé son système Cerberus pour inspecter les modèles téléchargés sur Hugging Face. Le nouvel outil rend des informations similaires, telles que des identifiants de licences risquées ou des pays d'origine, librement disponibles et consultables sans nécessiter de produits Cisco distincts.
Selon Cisco, un manque de lignée vérifiable pour les modèles d'IA ouverts peut exposer les systèmes à des vulnérabilités. Amy Chang, responsable de l'intelligence des menaces IA et de la recherche en sécurité chez Cisco, a déclaré : "Si vous ne comprenez pas comment les modèles sont susceptibles à différents types d'attaques, alors vous ne pouvez pas tenir compte de la manière dont ce modèle qui alimente votre agent, qui alimente votre application, pour comprendre où se situent ces points de défaillance." La compréhension de l'origine et de la structure d'un modèle est présentée comme essentielle pour la sécurité des applications d'IA.