Zesty automatise le partage des ressources GPU pour les charges de travail IA
Zesty a lancé une nouvelle fonction automatisée qui optimise dynamiquement l'allocation des ressources GPU NVIDIA pour les charges de travail IA, améliorant l'utilisation et réduisant les coûts.
SAN MATEO, Californie – Zesty, une entreprise spécialisée dans l'optimisation de Kubernetes, a publié une nouvelle capacité automatisée pour fractionner dynamiquement les GPU NVIDIA compatibles CUDA. Cette fonctionnalité, basée sur la récente publication open-source par NVIDIA de la plateforme Run:ai, vise à améliorer les performances des charges de travail IA et à optimiser l'utilisation des ressources GPU.
Le nouveau système d'automatisation adapte en continu l'allocation de la mémoire GPU, le partage des calculs et le placement des charges de travail en fonction des demandes changeantes. Son objectif est de permettre l'exécution de davantage de charges de travail sur les GPU existants, de réduire le besoin de capacité GPU supplémentaire et de diminuer les coûts d'infrastructure sans compromettre les performances des applications.
Traditionnellement, les GPU étaient soit alloués entièrement à des charges de travail individuelles, soit partagés en partitions fixes, ne parvenant pas à suivre les exigences dynamiques des tâches IA. Cela a entraîné un gaspillage de ressources et la nécessité d'acquérir davantage de GPU, même lorsque la capacité existante restait sous-utilisée.
La publication open-source de Run:ai par NVIDIA facilite le partage des GPU dans les environnements Kubernetes. L'automatisation de Zesty complète cela en fournissant une couche de prise de décision qui optimise l'utilisation des ressources sur la base de données en temps réel et de politiques prédéfinies.
"Automated Fractional GPUs" de Zesty est désormais disponible dans le cadre de la plateforme de l'entreprise. La solution se déploie comme un agent léger au sein du cluster Kubernetes et ne nécessite aucune modification des applications ou modèles existants.