Le PDG de Microsoft met en garde contre les risques de l'IA, exige le contrôle humain et des tests plus larges

Le PDG de Microsoft, Satya Nadella, a publié une note interne mettant en garde contre le rythme rapide du développement de l'intelligence artificielle (IA) et soulignant la nécessité que l'IA reste sous contrôle humain. Nadella a mis en évidence le besoin de tests plus larges par des tiers et a exhorté l'entreprise à consacrer suffisamment de temps à garantir la sécurité technologique, avertissant que le développement ne doit pas être précipité à mesure que les risques augmentent.

Nadella a défini trois domaines d'intervention clés pour le développement de l'IA : des objectifs de conception clairs, la garantie du contrôle client et l'assurance des avantages pour les communautés locales. Il a souligné que l'IA devrait bénéficier à la société dans son ensemble et que les développeurs doivent s'assurer que les clients peuvent conserver le contrôle de leurs propres données et cycles d'apprentissage sans dépendre d'un seul fournisseur de modèles.

Les préoccupations concernant les risques de l'IA ont été exprimées par plusieurs chercheurs en IA et leaders de l'industrie. Plus tôt cette semaine, Microsoft a également publié un projet de 37 pages de ses principes de comportement pour les modèles d'IA, mettant l'accent sur les principes humanistes et le déploiement sécurisé de la technologie.

Nadella a comparé le rythme du développement de l'IA à la phase de test précédant la publication d'un logiciel. Il a déclaré que les tests externes et par des tiers sont bénéfiques, ajoutant que la non-gestion adéquate des risques pourrait entraîner la perte des licences d'exploitation.

Microsoft s'efforce de démontrer son engagement envers un développement de l'IA sûr et responsable par des actions concrètes. Nadella a cité les opérations du centre de données Quincy de l'entreprise comme un exemple de collaboration à long terme avec les communautés pour construire des infrastructures et distribuer des avantages.