OpenAI annonce la puce Jalapeño pour des réponses IA plus rapides

La société d'IA OpenAI a annoncé mardi sa nouvelle puce Jalapeño, affirmant qu'elle accomplit les tâches plus efficacement et renvoie des réponses plus rapidement que les autres systèmes d'IA. Selon OpenAI, la puce offre à la fois une faible latence et un débit élevé, une combinaison généralement obtenue par des compromis dans les systèmes d'IA.

Lancé initialement en juin, Jalapeño est un circuit intégré spécifique à une application (ASIC) développé en partenariat avec Broadcom. La puce est spécifiquement conçue pour l'inférence de l'IA, le processus d'exécution d'un modèle d'IA entraîné pour accomplir une tâche ou déployer un agent.

OpenAI n'a pas fourni de détails spécifiques sur les performances de la puce ni sur son déploiement dans de futurs produits. Cependant, l'entreprise a récemment intensifié ses efforts en matière de développement matériel interne pour améliorer l'efficacité de ses modèles d'IA et réduire sa dépendance vis-à-vis des fournisseurs de matériel externes.

Cette avancée matérielle pourrait potentiellement conduire à des services plus rapides et plus rentables de la part d'OpenAI, positionnant ainsi l'entreprise de manière compétitive dans le paysage de l'IA en rapide évolution.