Le PDG de Microsoft, Nadella : l'IA pourrait devenir un concurrent pour les entreprises

Le PDG de Microsoft, Satya Nadella, a émis une mise en garde aux entreprises, les informant qu'elles pourraient payer deux fois pour les services d'intelligence artificielle. Nadella a déclaré dans un article de blog que les entreprises s'acquittent de frais de token pour l'utilisation de l'IA, tout en divulguant simultanément des connaissances propriétaires essentielles à la performance de celle-ci. Cette divulgation, soutient-il, permet aux fournisseurs de modèles d'IA d'apprendre des interactions et des données des clients, leur permettant potentiellement de développer des services qui concurrencent directement leurs clients.

Nadella a expliqué que plus une entreprise souhaite qu'un modèle d'IA performe mieux, plus elle doit lui fournir ses propres connaissances internes. Cela inclut les requêtes, l'utilisation des outils et les corrections apportées par les utilisateurs. Il a comparé ce processus à une organisation "enseignant" à l'IA ses secrets opérationnels, qui sont ensuite conservés et potentiellement exploités par le fournisseur d'IA.

Cette préoccupation survient dans le contexte des discussions actuelles sur les risques liés à l'IA avancée, notamment la possibilité que de grands laboratoires d'IA utilisent leurs modèles propriétaires comme des "chevaux de Troie". Alors que les entreprises d'IA peuvent entraîner des modèles sur d'énormes quantités de données publiques sur Internet, les entreprises individuelles risquent d'exposer des informations opérationnelles sensibles par leur utilisation.

Pour contrer cela, Nadella a suggéré que les entreprises devraient avoir le droit de "distiller" les modèles des fournisseurs d'IA, de manière similaire à la façon dont les entreprises d'IA utilisent les données publiques pour entraîner leurs propres modèles. Il a critiqué ce qu'il a qualifié de situation "doublement ironique" où les fournisseurs d'IA peuvent utiliser des données mondiales pour l'entraînement, mais interdisent aux autres d'étudier leurs modèles de sortie.