Le président de Microsoft soutient les évaluations indépendantes de la sécurité de l'IA

Le président de Microsoft, Brad Smith, a exprimé son soutien à l'introduction d'évaluateurs indépendants pour examiner la sécurité des systèmes d'intelligence artificielle. Smith a souligné la nécessité de multiples niveaux de contrôle humain sur l'IA.

La sécurité de l'IA et sa réglementation mondiale ont été au cœur des discussions lors de l'Assemblée générale des Nations Unies à New York. Dans une interview accordée à Bloomberg, Smith a déclaré qu'il était difficile de progresser en matière de sécurité de l'IA si seulement une ou deux organisations en étaient responsables. Il a souligné que si les développeurs de modèles sont cruciaux, les entreprises comme Microsoft, qui fournissent la couche logicielle et contrôlent les agents d'IA, sont tout aussi importantes.

Microsoft, en collaboration avec OpenAI, a mis en place un comité de sécurité conjoint. Ce comité facilite les discussions sur la sécurité de l'IA et aide à déterminer quand les modèles sont prêts à être publiés. Smith a également indiqué que Microsoft soutenait l'intégration de dispositifs d'arrêt d'urgence dans les systèmes d'IA avancés afin de maintenir la supervision humaine.

"Les mécanismes de sécurité doivent vraiment être déployés à plusieurs niveaux", a déclaré Smith. "Si vous pouvez placer un interrupteur d'urgence à trois ou quatre endroits, pourquoi n'en mettre qu'un seul ?"

Smith a également reconnu que Microsoft devait ajuster ses objectifs climatiques. L'entreprise s'était précédemment engagée à éliminer de l'atmosphère plus de carbone qu'elle n'en émettrait d'ici 2030. Cependant, l'utilisation de centrales à gaz naturel pour alimenter les centres de données d'IA a rendu ce calendrier plus difficile à respecter. "Nous croyons toujours que le climat est l'une des questions les plus importantes de ce siècle, mais la question que nous nous posons maintenant est de savoir si nous pouvons atteindre ces objectifs de la même manière que nous l'avions imaginé il y a six ans", a déclaré Smith. "Je pense que nous découvrons que nous devons faire certains ajustements."