Anthropic développe un système pour vérifier l'identité des modèles d'IA
Anthropic a présenté FlashProve, une solution utilisant des preuves cryptographiques pour certifier l'origine des réponses générées par les modèles d'IA.
Des chercheurs chez Anthropic travaillent sur FlashProve, un système open source destiné à vérifier quel modèle d'IA est à l'origine d'un résultat donné. Cette méthode repose sur une preuve cryptographique, garantissant mathématiquement que la réponse reçue provient bien du modèle spécifié par le fournisseur.
L'outil répond à des enjeux de transparence croissants, visant notamment à empêcher les entreprises de remplacer discrètement des modèles performants par des alternatives moins coûteuses. Il permet également à des tiers de valider les affirmations sur l'utilisation de modèles avancés pour des tâches critiques, telles que l'analyse de vulnérabilités en cybersécurité.
Le fonctionnement repose sur la publication d'une « empreinte numérique » du modèle, permettant la vérification sans compromettre les poids internes, qui constituent le cœur de la propriété intellectuelle des laboratoires. Le système est conçu pour être léger, permettant une vérification efficace sans nécessiter de ressources informatiques excessives.