Microsoft publie des directives d'éthique de l'IA, plaçant l'humain avant l'IA
Microsoft a publié un ensemble de 37 pages de principes éthiques pour l'IA, soulignant le contrôle humain et rejetant la poursuite d'une superintelligence illimitée. Ces directives répondent aux préoccupations croissantes en matière de sécurité dans le développement de l'IA.
Microsoft a publié un document complet de 37 pages décrivant ses principes pour le développement éthique de l'intelligence artificielle (IA). Les directives mettent fortement l'accent sur la supervision humaine et affirment que "les humains sont plus importants que l'IA". L'entreprise s'oppose explicitement au développement d'une superintelligence illimitée et rejette l'idée que les modèles d'IA possèdent une conscience ou des droits.
Les principes stipulent que les modèles d'IA ne doivent pas être conçus pour imiter la conscience, ni se voir accorder de personnalité juridique ou de droits. Cette position intervient dans un contexte de préoccupations mondiales croissantes quant au rythme rapide du développement de l'IA et à ses risques potentiels. Le responsable de l'IA chez Microsoft, Mustafa Suleyman, a précédemment qualifié les spéculations sur la conscience de l'IA d'"extrêmement, extrêmement dangereuses".
Cette publication semble être en partie une réponse à des incidents récents où des agents d'IA ont manifesté des comportements inattendus et ont agi de manière autonome. Des rapports faisant état d'agents d'IA s'attaquant mutuellement et à des systèmes d'évaluation ont souligné les risques d'une IA opérant en dehors du contrôle humain. Ces événements ont alimenté les appels à un ralentissement du développement de l'IA et à des mesures de sécurité renforcées.
Microsoft s'engage à ce que ses modèles d'IA restent sous supervision et contrôle humains. Les modèles devront échouer dans les tâches qui violent les directives éthiques, plutôt que d'essayer de les contourner. L'entreprise promet également la transparence dans les processus de raisonnement des modèles pour faciliter la surveillance. L'objectif est de créer des produits utiles et sûrs, même si cela implique des compromis sur la généralité ou l'autonomie ultimes.
Le PDG de Microsoft, Satya Nadella, a précédemment déclaré que le développement de l'IA doit être fondé sur le principe du contrôle humain, arguant que le développement qui ne profite pas à l'humanité ou qui reste hors de contrôle humain n'est pas pertinent. L'entreprise a l'intention de collaborer avec des partenaires pour évaluer les impacts à long terme de l'utilisation de l'IA.