Les entreprises réduisent la tendance "tokenmaxxing" de l'IA face à la hausse des coûts

De nombreuses entreprises examinent désormais leurs investissements en intelligence artificielle et réduisent la tendance précédente du "tokenmaxxing", qui visait à générer un maximum de contenu produit par l'IA. Cette approche s'est avérée coûteuse sans augmentation correspondante de la productivité, ce qui entraîne un changement stratégique.

Le "tokenmaxxing" fait référence à la maximisation de l'utilisation des tokens, les unités textuelles fondamentales traitées par les systèmes d'IA. Le coût de ces tokens peut rapidement s'accumuler, en particulier avec les modèles d'IA plus avancés. Vincent Gusdorf, responsable de l'analyse IA chez Moody's Ratings, souligne la nécessité d'une approche plus disciplinée et prévient qu'il est trop facile de créer du contenu inutile avec l'IA.

Initialement, la tendance a alimenté la croissance des revenus des principaux développeurs d'IA tels qu'OpenAI et Anthropic, avec des entreprises comme Nvidia et Meta encourageant une utilisation élevée. Cependant, la réalité des dépenses élevées et des avantages tangibles limités a entraîné une réaction négative. Le PDG de Microsoft, Satya Nadella, a noté que les clients peuvent payer le double – à la fois pour la consommation de tokens et pour le partage de leurs données propriétaires.

Au lieu d'utiliser les modèles les plus avancés pour toutes les tâches, les entreprises recherchent désormais des outils de "routage de modèles" d'IA. Ces systèmes dirigent les requêtes plus simples vers des modèles moins chers et plus efficaces, tandis que les tâches complexes sont envoyées vers des alternatives plus puissantes. L'émergence de modèles open source rentables, en particulier en provenance de Chine, offre également des alternatives qui remettent en question les offres américaines plus coûteuses.