베라 루빈, MLPerf서 GPU당 최대 2배 성능

2분 엔비디아베라 루빈MLPerfAI 가속기
최근 30일 조회수 — 좋아요 —

핵심 요약

엔비디아 베라 루빈은 학습 성능과 전력 효율을 크게 높였지만 일부 추론 수치는 아직 잠정 결과다.

베라 루빈, MLPerf서 GPU당 최대 2배 성능 — 기사 주제를 표현한 AI 생성 개념 삽화
AI 생성 개념 삽화 · 실제 사건을 촬영한 사진이 아닙니다.

엔비디아(NVIDIA)의 차세대 Vera Rubin NVL72가 MLPerf Training v6.1에서 현행 Blackwell Ultra 기반 GB300 NVL72보다 GPU당 최대 2배 높은 학습 성능을 기록했다. 엔비디아가 공개한 결과에 따르면 Vera Rubin은 7개 평가 중 6개에서 최단 학습 시간을 냈으며, 별도로 진행된 MLPerf Endpoints v1.0 에이전트 추론 평가에서도 GB300 대비 전력당 처리량이 최대 10배를 넘었다.12

학습 성능 차이는 통신 부담이 큰 대규모 모델에서 가장 컸다. 6,710억 매개변수 혼합 전문가(Mixture-of-Experts·MoE) 모델인 DeepSeek-V3 평가에서 Vera Rubin은 GPU 1,024개로 4.14분 만에 학습을 마쳤다. 같은 수의 GPU를 쓴 GB300은 8.03분이 걸렸다. 나머지 평가에서도 Vera Rubin의 GPU당 성능은 GB300보다 1.4~1.6배 높았다.1

평가GPU 수GB300 대비 성능
DeepSeek-V3 671B1,0242배
gpt-oss 20B·Llama 3.1 8B64·721.6배
Llama 2 70B LoRA·FLUX.1721.5배
Qwen3.5 397B GRPO·DLRMv464·1281.4배

Vera Rubin은 GPU를 256개에서 1,024개로 늘릴 때 전체 효율을 97% 이상 유지했다. 다만 DeepSeek-V3의 라운드 전체 최단 기록은 Vera Rubin이 아니라 GPU 1만240개를 투입한 GB300 클러스터가 냈다. 엔비디아는 두 플랫폼을 합쳐 v6.1의 모든 평가에서 최단 시간을 차지했고, 7개 전 항목에 결과를 제출한 업체도 엔비디아뿐이라고 밝혔다.1

에이전트 추론에서는 여러 차례 이어지는 대화와 도구 호출을 처리하면서 응답성을 유지하는 능력을 측정했다. 사용자당 초당 최소 50토큰의 상호작용 속도를 맞춘 조건에서 Vera Rubin의 전력 1kW당 처리량은 Kimi K3에서 GB300의 10배, DeepSeek-V4.1-Flash에서 9배, Qwen3.6-35B-A3B에서 5배였다. 같은 동시 질의 수에서 사용자별 상호작용 속도도 각각 3배, 5배, 3배로 집계됐다.2

단, 학습과 추론 자료는 모두 엔비디아가 자사 제출 결과를 해석한 기술 블로그다. 특히 Endpoints의 Vera Rubin 수치는 아직 MLCommons의 검증과 동료 검토를 마치지 않은 잠정 결과여서 바뀔 수 있다. 검증을 마친 GB300 결과와 동일한 확정치로 받아들여서는 안 된다.2

Footnotes

  1. NVIDIA Technical Blog, 「NVIDIA Vera Rubin NVL72 Achieves up to 2x Blackwell Ultra Performance in MLPerf Training v6.1」 ↩ ↩2 ↩3

  2. NVIDIA Technical Blog, 「NVIDIA Vera Rubin NVL72 Leads Agentic Inference Performance on MLPerf Endpoints v1.0」 ↩ ↩2 ↩3

읽기 목록은 이 브라우저에 저장됩니다.

출처

  1. NVIDIA Vera Rubin NVL72 Achieves up to 2x Blackwell Ultra Performance in MLPerf Training v6.1 | NVIDIA Technical Blog — NVIDIA Technical Blog
  2. NVIDIA Vera Rubin NVL72 Leads Agentic Inference Performance on MLPerf Endpoints v1.0 | NVIDIA Technical Blog — NVIDIA Technical Blog

이 글은 위 출처를 근거로 자동 생성된 뒤 발행됐습니다. 원문을 함께 확인해 주세요.