Ancien cluster GPU Nvidia V100 rivalise avec les systèmes récents dans les tests d'IA
Une configuration de quatre anciennes cartes graphiques Nvidia Tesla V100 connectées via NVLink a démontré des performances notables dans les tâches d'IA, surpassant partiellement des systèmes plus récents.
Un test réalisé par l'utilisateur YouTube Jun Yamog révèle qu'une configuration comprenant quatre cartes graphiques Nvidia Tesla V100 obtient des performances remarquables dans les tâches d'inférence d'IA. Bien que les cartes V100 aient été lancées en 2017, elles ont réussi à surpasser des systèmes plus récents et plus puissants dans certains tests.
Le test utilisait le modèle Qwen3.8-Flash-Next quantifié en 4 bits. Le cluster de quatre cartes V100, connecté via la technologie d'interconnexion haute vitesse NVLink, a traité de longues requêtes 40 % plus rapidement que deux systèmes DGX Spark plus récents. Comparé à la puce M5 Ultra d'Apple, les performances étaient jusqu'à 230 % meilleures.
Les tests ont également montré que le cluster V100 était 40 % plus rapide dans le traitement des requêtes courtes et 163 % plus rapide par rapport au M5 Ultra. Pour la génération de jetons courts, la configuration V100 a atteint une vitesse 121 % supérieure à celle du système DGX Spark.
Ces résultats suggèrent que les anciens GPU de centres de données peuvent encore offrir un débit substantiel pour des charges de travail d'inférence d'IA spécifiques. La technologie NVLink, permettant une communication directe GPU à GPU, semble cruciale pour maintenir des performances compétitives, même avec du matériel plus ancien.