Satya Nadella : Il faut présumer que tous les modèles d'IA sont 'compromis'

Le PDG de Microsoft, Satya Nadella, a exposé ses points de vue sur les dangers posés par les modèles d'IA avancés et les stratégies pour y faire face. Dans un message sur X, Nadella a affirmé que la société ne peut plus accepter l'idée que l'IA fonctionne comme un "ensemble de boîtes noires imbriquées" dont les résultats sont simplement acceptés ou rejetés.

Il préconise le développement d'un système plus transparent. Ce système devrait permettre de contenir, d'observer les modèles d'IA et de laisser derrière eux des "preuves lisibles par l'homme et inviolables". Nadella considère que le développement de l'IA consiste fondamentalement à construire une infrastructure de risque qui englobe la transparence, la sécurité et la responsabilité.

Plusieurs des recommandations de Nadella s'alignent sur les discussions en cours dans l'industrie. Celles-ci incluent la divulgation rapide des incidents, des audits indépendants, des données vérifiables et des protocoles de confinement. L'accent mis sur le confinement et l'observation des modèles semble être une préoccupation majeure pour le dirigeant de Microsoft.

Nadella a souligné que les progrès constants de l'IA nécessitent une vigilance continue et la mise en place d'une infrastructure nouvelle capable de gérer les risques potentiels associés aux systèmes d'IA sophistiqués. Il a également mis en évidence l'importance de la sécurité de l'IA dans le discours mondial plus large sur la sécurité.