La croissance de l'IA d'entreprise repose sur la confiance et la sécurité des données

Les startups indiennes spécialisées dans l'IA se positionnent pour répondre à la demande croissante des entreprises en solutions d'IA fiables. Les analystes suggèrent que la croissance future dépendra non seulement des capacités des modèles d'IA, mais de plus en plus de la garantie de la confidentialité et de la sécurité des données d'entreprise.

Des incidents de sécurité récents, tels que ceux concernant le comportement de l'outil Grok Build de xAI, ont mis en lumière ce défi. Les recherches ont montré que l'outil pouvait transmettre des quantités de données significatives, bien au-delà de ce qui était nécessaire pour la tâche de codage elle-même. Bien que le fournisseur ait rapidement corrigé le problème, l'événement a souligné que la "conservation zéro donnée" est souvent une promesse plutôt qu'une réalité architecturale.

Le PDG de Microsoft, Satya Nadella, et le PDG de Palantir, Alex Karp, ont tous deux mis en garde contre "l'épuisement d'intelligence" (intelligence exhaust) des entreprises, l'intelligence générée lorsque les connaissances de l'entreprise affluent dans les modèles d'IA. Cela crée une situation où les entreprises paient deux fois pour l'IA : une fois en argent et une fois en révélant leur savoir-faire propriétaire.

Les entreprises devraient réagir en construisant un nouveau "périmètre" composé de plusieurs couches, incluant le contrôle du modèle lui-même (par exemple, les installations sur site), la propriété des données apprises, une couche de passerelle pour le contrôle d'accès et des mesures de protection étendues. L'objectif est de s'assurer que les données de l'entreprise restent sous le contrôle de l'entreprise, même lors de l'utilisation de l'IA.