Alter Nvidia V100 GPU-Cluster konkurriert in KI-Tests mit neueren Systemen
Eine Konfiguration mit vier älteren Nvidia Tesla V100 Grafikkarten, verbunden über NVLink, zeigte eine bemerkenswerte Leistung bei KI-Aufgaben und übertraf teilweise sogar neuere Systeme.
Ein Test des YouTube-Nutzers Jun Yamog zeigt, dass eine Konfiguration mit vier Nvidia Tesla V100 Grafikkarten eine bemerkenswerte Leistung bei KI-Inferenzaufgaben erzielt. Obwohl die V100-Karten 2017 auf den Markt kamen, übertrafen sie in bestimmten Tests sogar neuere und leistungsfähigere Systeme.
Der Benchmark verwendete das 4-Bit-quantisierte Qwen3.8-Flash-Next-Modell. Der Cluster aus vier V100-Karten, verbunden über die NVLink-Hochgeschwindigkeitstechnologie, verarbeitete lange Prompts 40 Prozent schneller als zwei neuere DGX Spark-Systeme. Im Vergleich zum M5 Ultra-Chip von Apple war die Leistung bis zu 230 Prozent besser.
Die Tests ergaben außerdem, dass der V100-Cluster bei der Verarbeitung kurzer Prompts 40 Prozent schneller war und im Vergleich zum M5 Ultra 163 Prozent schneller. Bei der Generierung kurzer Token war die V100-Konfiguration 121 Prozent schneller als das DGX Spark-System.
Diese Ergebnisse deuten darauf hin, dass ältere Rechenzentrums-GPUs für spezifische KI-Inferenz-Workloads immer noch einen erheblichen Durchsatz bieten können. Die NVLink-Technologie, die eine direkte GPU-zu-GPU-Kommunikation ermöglicht, scheint entscheidend dafür zu sein, auch mit älterer Hardware eine wettbewerbsfähige Leistung aufrechtzuerhalten.