Le PDG de Microsoft, Satya Nadella, révise ses positions sur la sécurité de l'IA
Le PDG de Microsoft, Satya Nadella, estime désormais que l'accroissement des capacités d'une IA ne garantit plus sa sécurité ou son alignement avec les valeurs humaines.
Satya Nadella, PDG de Microsoft, a publiquement nuancé ses attentes concernant l'alignement des systèmes d'intelligence artificielle. Il a admis avoir cru par le passé que le développement de l'IA conduirait naturellement à une meilleure compatibilité avec les objectifs humains. Il considère désormais ce défi comme distinct et plus ardu, soulignant que la puissance brute d'un modèle ne suffit pas à assurer sa fiabilité.
Cette prise de position reflète une prise de conscience au sein du secteur technologique : la montée en puissance des capacités des modèles ne va pas de pair avec une maîtrise accrue. Début octobre, Nadella avait déjà prévenu les organisations de considérer les modèles d'IA comme des menaces potentielles pour la sécurité interne, plaidant pour des systèmes de contrôle plus rigoureux et des garde-fous humains.
Nadella rejoint ainsi d'autres dirigeants du secteur, tels que ceux d'OpenAI et d'Anthropic, qui s'inquiètent de la vitesse à laquelle les capacités de l'IA progressent par rapport à notre aptitude à les réguler. L'industrie semble aujourd'hui se concentrer davantage sur la standardisation des protocoles de sécurité et sur la mise en place de cadres réglementaires externes.