Le PDG de Microsoft Nadella appelle à un "frein d'urgence" pour l'IA contrôlé par l'homme

Le président-directeur général de Microsoft, Satya Nadella, a appelé à l'intégration d'un "frein d'urgence" contrôlé par l'homme dans les systèmes avancés d'intelligence artificielle (IA). Nadella a souligné la nécessité pour ces systèmes d'inclure des mesures de confinement et des contrôles indépendants, permettant au personnel autorisé de mettre en pause ou d'arrêter un modèle d'IA pendant son fonctionnement.

"Nous devons entourer les modèles non déterministes d'une conception de système forte et déterministe, de contrôles humains et de procédures opérationnelles fiables, et établir des normes industrielles là où les normes existantes sont insuffisantes", a écrit Nadella sur la plateforme de médias sociaux X. Il a suggéré que le traitement des modèles d'IA avancés, qu'ils soient fermés ou ouverts, comme des risques internes est une approche viable pour construire de tels systèmes.

Ces remarques coïncident avec les avertissements croissants d'autres dirigeants technologiques et chercheurs. Beaucoup ont exprimé des préoccupations concernant des protocoles de sécurité d'IA inadéquats et l'avancement rapide de la technologie, certains chercheurs en IA alertant sur des risques existentiels pour l'humanité.

En revanche, des personnalités politiques telles que l'ancien président Donald Trump ont rejeté les risques d'extinction liés à l'IA, privilégiant le leadership technologique des États-Unis sur la Chine. Cependant, l'administration Trump a également lancé un groupe de travail sur l'IA axé sur la sécurité.

Nadella a conclu que le système de "superintelligence" le plus digne de confiance ne sera pas celui dont le modèle est le plus fiable, mais plutôt celui qui "nous permettra de faire le moins confiance au modèle", soulignant l'importance de mécanismes de contrôle robustes.