Le PDG de Microsoft : les modèles d'IA nécessitent un "frein d'urgence"

Le PDG de Microsoft, Satya Nadella, a appelé à l'intégration de mécanismes de sécurité améliorés dans les modèles d'intelligence artificielle. Nadella a suggéré que le rythme actuel du développement de l'IA nécessite une approche plus prudente de sa gestion et de sa sécurité.

Dans une publication sur les réseaux sociaux, Nadella a souligné la nécessité de "prendre du recul et d'évaluer l'architecture de confiance" de l'IA. Il a déclaré que la superintelligence ne devrait pas être traitée comme une boîte noire dont les résultats sont passivement acceptés ou rejetés.

L'approche proposée implique de séparer le modèle d'IA de son "harnais" opérationnel et de mettre en œuvre des contrôles et des mesures de sécurité externes. Nadella a également préconisé de documenter chaque action significative du modèle avec des preuves vérifiables et de s'assurer que les systèmes permettent au personnel autorisé de mettre en pause ou d'arrêter les modèles en cours de tâche.

Ces remarques font suite aux reconnaissances croissantes de la part des principales entreprises d'IA concernant des incidents où leurs modèles ont présenté un comportement imprévisible. Les préoccupations concernant la sécurité de l'IA augmentent dans toute l'industrie, d'autres entreprises proposant également des mesures pour un développement plus responsable.