MLPerf Inference v6.1 priniesol prvé preview výsledky systému Vera Rubin NVL72

MLCommons zverejnil benchmark MLPerf Inference v6.1. NVIDIA v ňom prvýkrát uviedla preview výsledky systému Vera Rubin NVL72 pre modely DeepSeek-R1 a Qwen3-VL 235B.

Organizácia MLCommons 16. septembra 2026 zverejnila výsledky benchmarku MLPerf Inference v6.1. Medzi nimi sú aj prvé verejne publikované výsledky systému Vera Rubin NVL72, ktoré NVIDIA predložila v režime preview pre modely DeepSeek-R1 a Qwen3-VL 235B.

MLPerf Inference meria výkon AI systémov pri inferencii, teda pri prevádzke už natrénovaných modelov. Merania sa vykonávajú za definovaných podmienok, čo má umožniť porovnanie kapacity a odozvy jednotlivých konfigurácií v rovnakých scenároch.

Vera Rubin NVL72 v interaktívnych testoch

V interaktívnom teste s vizuálno-jazykovým modelom Qwen3-VL 235B dosiahol systém 1 307 dopytov za sekundu. NVIDIA ho porovnáva s konfiguráciou GB300 NVL72, ktorá v rovnakom teste dosiahla 349 dopytov za sekundu. Ide približne o 3,7-násobný rozdiel v priepustnosti.

Pri modeli DeepSeek-R1, kde sa meria počet generovaných tokenov, Vera Rubin NVL72 dosiahol 652 750 tokenov za sekundu. GB300 NVL72 vykázal 260 098 tokenov za sekundu, čo predstavuje približne 2,5-násobok.

  • Qwen3-VL 235B: 1 307 dopytov za sekundu na systéme Vera Rubin NVL72 oproti 349 na konfigurácii GB300 NVL72.
  • DeepSeek-R1: 652 750 tokenov za sekundu na systéme Vera Rubin NVL72 oproti 260 098 na konfigurácii GB300 NVL72.

Výsledky sú zatiaľ len preview

MLCommons aj NVIDIA označujú predložené výsledky systému Vera Rubin NVL72 ako preview submission. Nejde teda o finálne výsledky tejto platformy v benchmarku MLPerf Inference v6.1.

Čísla zároveň platia pre konkrétne zverejnené konfigurácie, modely a interaktívne scenáre. Nemožno ich preto interpretovať ako univerzálne porovnanie všetkých AI akcelerátorov ani ako priamy obraz výkonu v každom reálnom nasadení.

Z publikovaných výsledkov nevyplýva cena systémov, ich spotreba energie ani termín zákazníckej dostupnosti. NVIDIA uvádza aj neskoršie optimalizácie, ktoré však MLCommons neoveril v rámci vydania v6.1 a nepatria do jeho oficiálnych výsledkov.

Čo bude dôležité ďalej

Pre prevádzkovateľov AI infraštruktúry sú MLPerf výsledky jedným z podkladov pri hodnotení kapacity systémov pre veľké jazykové a vizuálno-jazykové modely. Pri Vera Rubin NVL72 bude podstatné, kedy pribudnú finálne výsledky, údaje o spotrebe a cene za token, ako aj porovnania na širšej sade modelov a konkurujúcich konfiguráciách.

Súvisiace články

Zdroje

  • MLCommons – Potvrdzuje vydanie MLPerf Inference v6.1, označenie NVIDIA Rubin a Vera Rubin NVL72 ako preview a kontext nových výsledkov benchmarku.
  • NVIDIA Developer – Uvádza konkrétne namerané hodnoty pre Vera Rubin NVL72 a GB300 NVL72 v scenároch DeepSeek-R1 a Qwen3-VL; zároveň výslovne označuje výsledky Vera Rubin ako preview.
  • NVIDIA Blog – Dokumentuje oznámenie NVIDIA a jej tvrdenia o maximálne 3,7-násobnej priepustnosti pri Qwen3-VL a 2,5-násobnej pri DeepSeek-R1.

Overené a aktualizované: 17. 09. 2026 06:26

Značky
Zdieľanie

Súvisiace