Le PDG de Microsoft, Nadella, propose un nouveau cadre de sécurité pour l'IA
Satya Nadella préconise de traiter les modèles d'IA comme des composants non fiables, avec des systèmes conçus pour la sécurité même si les modèles sont compromis. L'accent est mis sur l'architecture plutôt que sur le modèle lui-même.
Le PDG de Microsoft, Satya Nadella, a présenté une nouvelle approche de la sécurité de l'IA en entreprise, suggérant que les modèles d'IA ne devraient pas être considérés comme des entités de confiance. Au lieu de cela, les systèmes devraient être conçus en partant du principe que les modèles pourraient être compromis, et que l'autorité doit rester externe au modèle.
Nadella souligne que l'atout durable d'une entreprise n'est pas le modèle de fondation lui-même, mais la boucle d'apprentissage qui l'entoure. Il suggère que les modèles doivent être traités comme des composants totalement non fiables, dont les actions nécessitent une surveillance continue et une autorisation externe. Ce principe importe le concept de cybersécurité « supposer une brèche » dans les modèles d'IA.
Un principe clé de cette approche est la séparation du modèle d'IA de ses composants opérationnels, tels que la mémoire, les autorisations et les environnements d'exécution. Le modèle peut proposer des actions, mais il ne devrait jamais déterminer sa propre autorité pour les exécuter. Un environnement d'exécution indépendant doit plutôt vérifier les autorisations et les politiques avant d'autoriser une action.
Ce changement architectural s'éloigne de la tentative de construire des modèles intrinsèquement dignes de confiance. L'accent est désormais mis sur la construction de systèmes qui restent sécurisés même lorsque la fiabilité du modèle est remise en question. Les modèles peuvent évoluer et être remplacés, mais l'expérience accumulée et les connaissances au sein de la boucle d'apprentissage de l'entreprise représentent la valeur durable.