Le PDG de Microsoft met en garde contre les risques liés à la dépendance aux modèles d'IA

Satya Nadella, le PDG de Microsoft, a réitéré ses mises en garde aux entreprises concernant leur gestion de l'intelligence artificielle (IA). Il a souligné que les sociétés qui confient la totalité de leurs capacités d'IA à des développeurs externes risquent de perdre leur compétitivité, voire leur capacité à survivre à long terme.

Lors d'une récente interview, Nadella a insisté sur la nécessité pour les entreprises d'être prudentes non seulement dans le partage de leurs données, mais aussi dans la communication de leurs requêtes (prompts) aux fournisseurs de modèles d'IA. Il a indiqué que chaque information transmise à un modèle d'IA peut représenter un risque futur.

Nadella a proposé que les entreprises développent des mécanismes pour conserver le contrôle des métadonnées générées lors des interactions avec les modèles d'IA. Ce contrôle est essentiel pour pouvoir utiliser ces données afin d'entraîner leurs propres modèles ou des alternatives open source à l'avenir. Les poids des modèles, qui déterminent les capacités d'une IA après entraînement, sont fondamentaux dans ce processus.

« Toute entreprise qui perd ce contrôle, je pense, ne pourra finalement pas survivre, car elle a essentiellement externalisé sa capacité de réflexion », a déclaré Nadella. Il a recommandé aux entreprises de disposer au minimum de leurs propres modèles d'IA ou d'une infrastructure, telle qu'une passerelle IA (AI Gateway), pour isoler les prompts et les modèles, plutôt que de soumettre directement tout le contenu aux développeurs de modèles d'IA.

Il a également conseillé d'éviter de dépendre des outils de programmation intégrés proposés par les développeurs de modèles d'IA. En séparant ces outils des modèles fondamentaux et en isolant le contexte et la mémoire, les entreprises peuvent « choisir librement le modèle le plus adapté à différentes tâches », même si un modèle spécifique cessait de fonctionner.