Gammalt Nvidia V100 GPU-kluster kör om nyare system i AI-tester
En konfiguration med fyra äldre Nvidia Tesla V100 grafikkort kopplade via NVLink visade anmärkningsvärd prestanda i AI-uppgifter, och överträffade delvis även nyare system.
En test utförd av YouTube-användaren Jun Yamog visar att en konfiguration med fyra Nvidia Tesla V100 grafikkort uppnår anmärkningsvärd prestanda i AI-inferensuppgifter. Trots att V100-korten lanserades 2017, visade de sig överträffa även nyare och kraftfullare system i vissa tester.
Testet använde den kvantiserade Qwen3.8-Flash-Next-modellen med 4-bitars precision. Klustret av fyra V100-kort, anslutna via NVLink höghastighetsteknik, hanterade långa prompter 40 procent snabbare än två nyare DGX Spark-system. Jämfört med Apples M5 Ultra-chip var prestandan upp till 230 procent bättre.
Dessutom visade testerna att V100-klustret var 40 procent snabbare vid hantering av korta prompter och 163 procent snabbare jämfört med M5 Ultra. Vid generering av korta textsegment (tokens) var V100-konfigurationen 121 procent snabbare än DGX Spark-systemet.
Resultaten indikerar att äldre datacenter-GPU:er fortfarande kan erbjuda hög genomströmning för specifika inferensbelastningar. NVLinks förmåga att möjliggöra direktkommunikation mellan GPU:er bidrar till att minska flaskhalsar och bibehålla en hög prestandanivå även med äldre hårdvara.