Vanha Nvidia V100 GPU -klusteri kilpailee uusimpien järjestelmien kanssa tekoälytesteissä
Neljä vanhaa Nvidia Tesla V100 -näytönohjainta NVLink-yhteydellä osoittivat merkittävää suorituskykyä tekoälytehtävissä, päihittäen osittain uudempiakin järjestelmiä.
YouTube-käyttäjä Jun Yamogin testaama neljän Nvidia Tesla V100 -näytönohjaimen kokoonpano pärjäsi yllättävän hyvin tekoälyn päättelytehtävissä. Vaikka V100-kortit julkaistiin vuonna 2017, ne päihittivät testeissä jopa tehokkaampia järjestelmiä.
Testissä käytettiin 4-bittistä kvantisoitua Qwen3.8-Flash-Next-mallia. Neljän V100-kortin klusteri, joka oli yhdistetty NVLink-teknologialla, suoriutui pitkien kehotteiden käsittelystä 40 prosenttia nopeammin kuin kaksi uudempaa DGX Spark -järjestelmää. Verrattuna Applen M5 Ultra -siruun, suorituskyky oli jopa 230 prosenttia parempi.
Tesissä havaittiin myös, että V100-klusteri oli 40 prosenttia nopeampi lyhyiden kehotteiden käsittelyssä ja 163 prosenttia nopeampi verrattuna M5 Ultraan. Lyhyiden tekstin palasten (token) generoinnissa V100-kokoonpano oli 121 prosenttia nopeampi kuin DGX Spark -järjestelmä.
Tesla V100 -näytönohjainten käyttö tekoälyyn on edelleen mahdollista nopean muistin ja tehokkaan NVLink-yhteyden ansiosta. Testitulokset osoittavat, että vanhemmillakin laitteistoilla voi saavuttaa kilpailukykyistä suorituskykyä tietyissä tekoälytyökuormissa, etenkin kun ne on optimoitu ja yhdistetty tehokkaasti.