PDG de Microsoft : Les modèles d'IA doivent être considérés comme défaillants

Le PDG de Microsoft, Satya Nadella, a présenté de nouveaux principes pour le développement et le déploiement de modèles d'intelligence artificielle (IA), exhortant les développeurs à supposer une défaillance potentielle et à intégrer des mécanismes de contrôle robustes. Nadella a déclaré qu'à l'ère actuelle de l'IA en rapide évolution, des stratégies simples comme l'auto-surveillance par la superintelligence sont insuffisantes.

Il a souligné que si les logiciels traditionnels disposent d'outils établis pour suivre le comportement, les modèles d'IA sont souvent des « boîtes noires ». Ces systèmes complexes, a-t-il noté, accèdent à des données sensibles et accomplissent des tâches critiques, ce qui nécessite une réévaluation des architectures de confiance. Les fournisseurs de modèles ne peuvent pas externaliser la responsabilité ni accepter aveuglément les résultats de l'IA.

Les principes proposés par Nadella incluent la diversification des modèles, la garantie que toutes les actions importantes sont enregistrées de manière infalsifiable et lisible par l'homme, la vérifiabilité des systèmes par des tests continus (y compris les défaillances et les attaques), et le maintien d'un contrôle indépendant sur ce à quoi les modèles peuvent accéder et ce qu'ils peuvent faire. L'auditabilité doit également être indépendante de l'IA elle-même.

Un aspect critique est d'assurer le confinement, que Nadella compare à un frein d'urgence. Les systèmes doivent permettre au personnel autorisé de mettre en pause ou d'arrêter les modèles à tout moment. Il a souligné la nécessité de standardiser ces techniques d'interruption, en particulier pour les modèles plus avancés, et a plaidé pour une divulgation rapide et un partage à l'échelle de l'industrie des défaillances et des leçons apprises.