2026年10月17日

Vera Rubin NVL72とは?AA-AgentPerfでGB300比5.7倍の電力効率

室谷室谷代表取締役
Vera Rubin NVL72(ヴェラ・ルービン・エヌブイエル72)は、NVIDIAが2026年に発表したBlackwell後継世代のラックスケールAIシステムで、72基のRubin GPUと36基のVera CPUを1つのNVLinkドメインに接続し、エージェント型AI推論を大規模に回せるのが特徴なんですよね。
テキトー教師テキトー教師DotAI 認定講師
そのVera Rubin NVL72について、AI評価機関のArtificial Analysisが2026年10月15日に、エージェント型推論ベンチマーク「AA-AgentPerf」の初回結果を公開したんですよ。前世代のGB300 NVL72と比べて、電力あたりスループットが最大約5.7倍に達したと報告しています。
室谷室谷代表取締役
これ、単なるスペック自慢じゃなくて、AIデータセンターの制約が「GPUの設置台数」から「電力」に移っている流れを踏まえた結果なんですよね。同じ電力枠でどれだけエージェントを動かせるかが、収益に直結する時代になってきている……。
テキトー教師テキトー教師DotAI 認定講師
まさにそこがポイントで、単に「速くなった」という話じゃないんですよ。まずは何が発表されたかを整理しましょう。

Vera Rubin NVL72とは?72基のRubin GPUを搭載したBlackwell後継システム

Vera Rubin NVL72 vs Blackwell Ultra 主要スペック比較
Vera Rubin NVL72
  • GPU: Rubin GPU 72基(各288GB HBM4)
  • CPU: Vera CPU 36基(88コア、NVLink-C2C帯域は前世代の2倍)
  • メモリ帯域: 19.2TB/s
  • NVLink帯域: 3.0TB/s(NVLink 6)
  • 密なNVFP4演算: 35 PFLOPS
  • ラック構成: 100%液冷、第3世代MGX NVL72設計
  • NVL72全体: NVFP4推論3,600 PFLOPS/NVFP4学習2,520 PFLOPS/GPUメモリ20.7TB HBM4
Blackwell Ultra
  • GPUメモリ容量: 288GB HBM4(Rubin GPUと同容量)
  • メモリ帯域: 8TB/s
  • NVLink帯域: 1.8TB/s
  • 密なNVFP4演算: 15 PFLOPS
テキトー教師テキトー教師DotAI 認定講師
まず基本スペックから押さえましょう。Vera Rubin NVL72は、NVIDIAのBlackwell後継であるVera Rubin世代のラックスケールシステムです。

構成は72基のRubin GPUと36基のVera CPUで、第6世代NVLinkで1つの大規模GPUのように接続します。
室谷室谷代表取締役
MYUUUでもラックスケールの話はよく出るんですが、要は「1ラックを1つの巨大な計算機として扱う」設計なんですよね。100%液冷で、NVIDIAのMGX NVL72の第3世代ラック設計をベースにしているので、前世代からの移行もしやすいとされています。
テキトー教師テキトー教師DotAI 認定講師
GPU単体のスペックも整理しておきますね。Rubin GPUはメモリ容量こそBlackwell Ultraと同じ288GB HBM4ですが、メモリ帯域が2.4倍、NVLink帯域が1.7倍、密なNVFP4演算が2.3倍になっています。
室谷室谷代表取締役
メモリ容量は据え置きで帯域を一気に上げてきたのがポイントで、エージェント型の推論はコンテキストを大量に読み書きするので、帯域とNVLinkが効いてくるんですよ。
テキトー教師テキトー教師DotAI 認定講師
整理すると、こうです。
  • GPU: Rubin GPU 72基(各288GB HBM4)
  • CPU: Vera CPU 36基(88コア、NVLink-C2C帯域は前世代の2倍)
  • メモリ帯域: 19.2TB/s(Blackwell Ultraは8TB/s)
  • NVLink帯域: 3.0TB/s(NVLink 6、Blackwell Ultraは1.8TB/s)
  • 密なNVFP4演算: 35 PFLOPS(Blackwell Ultraは15 PFLOPS)
  • ラック構成: 100%液冷、第3世代MGX NVL72設計
室谷室谷代表取締役
NVIDIAの公式ページでは、NVL72全体でNVFP4推論3,600 PFLOPS、NVFP4学習2,520 PFLOPS、GPUメモリ20.7TB HBM4という数字も示されています。DGX Vera Rubin NVL72のデータシートでも同じ構成が説明されていて、DGX SuperPODでギガスケールのAIファクトリーに拡張できる設計になっています。
テキトー教師テキトー教師DotAI 認定講師
講座でもよく聞かれるんですが、「前世代と何が違うの?」という点は、メモリ容量ではなく帯域とNVLink、そして電力効率に振っているのが答えになります。

AA-AgentPerfとは?エージェント型コーディングで測る新しい推論ベンチマーク

まとめ
AA-AgentPerfとは?エージェント型コーディングで測る新しい推論ベンチマーク
  • Artificial Analysisが提供するエージェント型推論の性能ベンチマークで、実際のコーディングエージェントの軌跡を再生して測定する
  • エージェントは「推論→ツール呼び出し→結果を会話に追加→またモデルへ」というループを回し、コンテキストが累積する
  • リクエストの入力トークンの平均97%が前回の繰り返しになるため、KVキャッシュに繰り返し部分を保持できるかで効率が大きく変わる
  • ワークロード統計: 500の軌跡、18,997リクエスト、1リクエストあたり最大132K入力トークン、1軌跡で最大182リクエスト、最大11M入力トークン、ツール呼び出しの待ち時間は最大5秒
  • 出力は短いツール呼び出しが多く、初回トークンまでの時間とスケジューリングのオーバーヘッドが効くため「トークン/秒」だけでは実態を見誤る
  • 測定指標は「測定GPU電力あたりの総スループット(トークン/秒/MW)」と「ユーザーあたり出力速度(リクエストの25パーセンタイル)」の2つ
  • システム全体の利用率と個々のユーザー体験のトレードオフを可視化する設計
室谷室谷代表取締役
ここからが今回の本題で、AA-AgentPerfというベンチマークの話なんですよね。これはArtificial Analysisが提供するエージェント型推論の性能ベンチマークで、実際のコーディングエージェントの軌跡を再生して測定するものです。
テキトー教師テキトー教師DotAI 認定講師
普通のチャットと何が違うかというと、エージェントは「推論→ツール呼び出し→結果を会話に追加→またモデルへ」というループを回すんですよ。コンテキストがどんどん累積していって、リクエストの入力トークンの平均97%が前回の繰り返しになる。
室谷室谷代表取締役
だからKVキャッシュにその繰り返し部分を保持できるかどうかで、効率がまるで変わるんですよね。毎回フルコンテキストを再処理していたら、電力がいくらあっても足りない……。
テキトー教師テキトー教師DotAI 認定講師
AA-AgentPerfのワークロード統計も見ておきましょう。500の軌跡、18,997リクエストを対象にしていて、1リクエストあたり最大132Kの入力トークン、1つの軌跡で最大182リクエスト、最大11Mの入力トークン、ツール呼び出しの待ち時間は最大5秒です。
室谷室谷代表取締役
しかも出力は短いツール呼び出しが多いので、初回トークンまでの時間とスケジューリングのオーバーヘッドが効いてくる。だから「トークン/秒」だけ見ていると実態を見誤るんですよね。
テキトー教師テキトー教師DotAI 認定講師
測定指標は「測定GPU電力あたりの総スループット(トークン/秒/MW)」と「ユーザーあたり出力速度」の2つです。後者はリクエストの25パーセンタイル、つまり4分の3のリクエストが超えた速度を見ています。
室谷室谷代表取締役
システム全体の利用率と、個々のユーザー体験のトレードオフを可視化する設計になっているわけですね。

Vera Rubin NVL72の性能:GB300 NVL72比で最大約5.7倍の電力あたりスループット

Vera Rubin NVL72 vs GB300 NVL72:モデル別スループット/MW比較
モデルVera Rubin NVL72GB300 NVL72倍率
DeepSeek V4 Pro272M239M1.14倍
DeepSeek V4.1 Flash571M395M1.45倍
GLM-5.2272M201M1.35倍
Kimi K370M56M1.26倍
テキトー教師テキトー教師DotAI 認定講師
では結果です。Vera Rubin NVL72は、前世代GB300 NVL72比で電力あたりスループットが最大約5.7倍に達しました。

モデル別ではDeepSeek V4 Proで約5.7倍、DeepSeek V4.1 Flashで約5.4倍、GLM-5.2で約3.0倍、Kimi K3で約2.8倍です。
室谷室谷代表取締役
ここで大事なのは、ピークスループットでは両者そこまで差が開かないという点なんですよね。DeepSeek V4 ProでVera Rubinが272Mトークン/秒/MW、GB300が239Mで1.14倍。

DeepSeek V4.1 Flashで571M対395Mの1.45倍、GLM-5.2で272M対201Mの1.35倍、Kimi K3で70M対56Mの1.26倍です。
テキトー教師テキトー教師DotAI 認定講師
差が開くのは「ユーザーあたり速度を上げたとき」なんですよ。DeepSeek V4 Proでユーザーあたり約120から約165トークン/秒に上げると、GB300はスループット/MWの81%を失うのに対し、Vera Rubinは16%しか失わない。
室谷室谷代表取締役
これ、実運用ではめちゃくちゃ効くんですよね。ユーザー体験を良くしようとするとスループットが落ちる、というトレードオフが、Vera Rubinではかなり緩やかになっている。
テキトー教師テキトー教師DotAI 認定講師
電力効率が上がるとトークンあたりの運用コストが下がりますし、AIデータセンターが電力で制約される以上、同じデータセンターからより多くのエージェントを出せることになります。約165トークン/秒/ユーザーの地点では、同じGPU電力予算でDeepSeek V4 Proのトークンを約5倍提供できるとされています。
室谷室谷代表取締役
ちなみにNVIDIAの公式ブログでは、SemiAnalysis AgentXのデータとして、GB300 NVL72比で最大30倍のスループット/MW、トークンコスト45分の1という数字も示されています。ただしこれは別のベンチマークでの結果なので、AA-AgentPerfの数字とは切り分けて見たほうがいいです。
テキトー教師テキトー教師DotAI 認定講師
そうですね。AA-AgentPerfはArtificial Analysisの独立した測定、SemiAnalysis AgentXは別の測定、と分けて理解するのが正確です。

モデル別に見る初回結果:DeepSeek V4 Pro/V4.1 Flash/GLM-5.2/Kimi K3

室谷室谷代表取締役
モデルごとに傾向が違うのが面白いところで、順番に見ていきましょうか。
テキトー教師テキトー教師DotAI 認定講師
まずDeepSeek V4 Proです。総パラメータ1.6T、アクティブ49Bで、圧縮スパースと強圧縮アテンションのハイブリッドで長コンテキストでもKVキャッシュを小さく保つ設計です。

ピークでは272Mトークン/秒/MW(69トークン/秒/ユーザー)でGB300の1.14倍、約120トークン/秒/ユーザーまで約1.1倍を維持します。
室谷室谷代表取締役
そして約130トークン/秒/ユーザーを超えたあたりからGB300のスループットが落ちていって、約165で174M対34Mの5.1倍、約190で132M対約23Mの約5.7倍になる。ここが最大のリードなんですよね。
テキトー教師テキトー教師DotAI 認定講師
ただし注意点もあって、NVIDIAのGB300ラック構成は約163トークン/秒/ユーザーで頭打ちになるため、それ以上のGB300の線はArtificial Analysisが組んだ小さな4GPU構成によるものだと注記されています。また、Vera Rubinの構成は初回トークンまでの時間が長め(約165トークン/秒/ユーザーで中央値1.65秒、GB300は1.08秒)で、初回トークンを含むエンドツーエンド速度で測ると、多くの速度域でGB300が同等以上になる点も明記されています。
室谷室谷代表取締役
ここは公平に見ておきたいところですね。あくまで「初回トークンを除いた出力速度」での比較だという前提を押さえておく。
テキトー教師テキトー教師DotAI 認定講師
次にDeepSeek V4.1 Flashです。バックボーン552B、prefillで8B、decodeで16Bをアクティブ化し、196BのEngramメモリをトークンルックアップで読む構成。

スパースアテンションとFP4 KVキャッシュでKVキャッシュをトークンあたり約890バイトに抑えています。
テキトー教師テキトー教師DotAI 認定講師
ピークは571Mトークン/秒/MW(68トークン/秒/ユーザー)で、これは4モデル中で最高のスループット/MWです。B300のピーク433M、GB300 NVL72の395Mを上回っています。
室谷室谷代表取締役
そしてユーザーあたり速度が上がるほどリードが広がって、約230から約350トークン/秒/ユーザーでGB300の約3.4倍から3.6倍、約580で約5.4倍。単一の4GPUサーバーで1エージェントを動かして906トークン/秒/ユーザーという、リーダーボード全モデル中最速の結果も出しています。
テキトー教師テキトー教師DotAI 認定講師
1点だけ注記があって、このDeepSeek V4.1 FlashのVera Rubinの結果は出力を2,048トークンでキャップしていて、他のリーダーボード結果は16,384トークンなんですよ。約2%の応答がキャップに達し、平均応答が1割ほど短くなっており、これがVera Rubinのスループットをわずかに有利にしていると明記されています。
室谷室谷代表取締役
こういう細かい条件まで書いてくれるのがArtificial Analysisの信頼できるところですよね。
テキトー教師テキトー教師DotAI 認定講師
続いてGLM-5.2です。総753B、アクティブ40BでDeepSeek系のスパースアテンションを採用しています。

ピークは272Mトークン/秒/MW(84トークン/秒/ユーザー)でGB300の1.35倍。
テキトー教師テキトー教師DotAI 認定講師
約165トークン/秒/ユーザーで159Mトークン/秒/MW、GB300の同じ速度での約53Mに対して約3.0倍で、約310トークン/秒/ユーザーまで約2.7倍から3倍の差が続きます。最速結果は408トークン/秒/ユーザーで、リーダーボードのGLM-5.2最速を更新しています。
室谷室谷代表取締役
初回トークンを含むエンドツーエンドで測っても、この範囲では1.1倍から1.8倍を維持しているというのも書かれていますね。
テキトー教師テキトー教師DotAI 認定講師
最後にKimi K3です。今回扱う中で最大のモデルで、総2.8T、アクティブ104B、93層のうち69層で線形アテンションを使うハイブリッド設計です。
テキトー教師テキトー教師DotAI 認定講師
ピークは70Mトークン/秒/MW(41トークン/秒/ユーザー)でGB300の56Mに対して1.26倍。約67トークン/秒/ユーザーで約2.8倍(59M対約21M)、30エージェント構成では176トークン/秒/ユーザーで約2.4倍(9.6M対約4.0M)です。
室谷室谷代表取締役
ただしKimi K3は他の3モデルより全システムがずっと少ないトークン数しか出せていなくて、NVIDIAの現行Vera Rubin構成では約74から176トークン/秒/ユーザーの間にギャップがあると指摘されています。最速は255トークン/秒/ユーザーでリーダーボード最速を更新しています。
テキトー教師テキトー教師DotAI 認定講師
モデルごとに最適な構成が違うので、自分たちのワークロードに近いモデルの結果から構成を選ぶのが実践的ですね。Artificial Analysisは各点に対応する構成を構成ブラウザで公開しているので、独自に性能調査をしなくてもチューニング済みの出発点から始められると説明しています。

なぜエージェント型AIでVera Rubin NVL72が強いのか:高速域でも落ちにくい電力効率

室谷室谷代表取締役
ここが一番おいしいところで、なぜ高速域でVera Rubinが強いのかという話なんですよね。NVIDIAはVera Rubinのスタックをエージェント型ワークロード向けにチューニングしていると説明しています。
テキトー教師テキトー教師DotAI 認定講師
具体的には、disaggregated servingでprefillとdecodeを分離してそれぞれ独立にスケールさせ、rate matchingでprefill GPUとdecode GPUのトークン生成速度を同期させます。さらに大規模エキスパート並列でMoEのエキスパートをスケールアップGPUドメインに分散し、分散KVキャッシュでメモリを拡張、KVキャッシュオフロードで非アクティブなコンテキストをホストやストレージに退避します。
室谷室谷代表取締役
KV-awareルーティングで、すでに関連するキャッシュを持つGPUにリクエストを振り分けて冗長な計算を減らす。MegaMoEのような融合CUDAカーネルで計算とGPU間通信を1パスにまとめる。

まさにエージェント推論の特性に合わせた最適化の積み重ねなんですよ。
テキトー教師テキトー教師DotAI 認定講師
ハードウェア側では、Rubin GPUの第5世代Tensor Coreと第3世代Transformer Engineがprefillとdecodeの両方を加速し、NVFP4量子化でモデル重みを4ビットに圧縮してメモリフットプリントを減らしつつスループットを上げます。
室谷室谷代表取締役
NVL72のスケールアップドメインがあるから、大規模エキスパート並列や分散KVキャッシュが現実的に動く。NVLink 6とNVLinkスイッチは、既製のEthernet代替と比べて10倍のパケットレートと3分の1のレイテンシを実現すると説明されています。
テキトー教師テキトー教師DotAI 認定講師
ソフトウェア側はTensorRT-LLMやvLLM、NVIDIA Dynamoといった推論ランタイムとサービングフレームワークがハードウェアと共同設計されている点が大きいですね。NVIDIAは今回のVera Rubinの全結果を自ら提出し、TensorRT-LLMとvLLMをNVIDIA Dynamoで動かしたと説明しています。
室谷室谷代表取締役
だから「カーネルやサービングソフトの最適化が進むにつれて、両システムの差はさらに広がる見込み」とArtificial Analysisも書いているんですよね。今の数字はまだ初期段階ということです。
テキトー教師テキトー教師DotAI 認定講師
エージェント型AIの評価軸については、Artificial Analysis Decision Indexとは?でも解説していますので、あわせて読むと指標の違いが整理しやすいですよ。

Vera Rubin NVL72はいつから・どこで使える?提供状況と今後の最適化

室谷室谷代表取締役
提供状況も気になるところですよね。NVIDIAの公式ページではVera Rubin NVL72は「Available Now」と表示されていて、量産体制に入っていると説明されています。

台湾の主要サーバーメーカーやサプライチェーンの企業が大規模に製造し、Vera Rubinベースのシステムを出荷しているとのことです。
テキトー教師テキトー教師DotAI 認定講師
日本との関連も発表されていて、NVIDIAはNoetra Corp.と協力して、13,750基のVera CPUと27,500基のRubin GPUを備えた国家物理AI向けのVera Rubin AIファクトリーを立ち上げるとしています。
室谷室谷代表取締役
国内でエージェントAIを大規模に回す基盤が整ってくる流れは、日本で開発する側からしても無視できないですよね。
テキトー教師テキトー教師DotAI 認定講師
導入方法としては、NVIDIAの公式ページから営業に問い合わせる形で提供されると案内されています。DGX Vera Rubin NVL72は、NVIDIA Mission Control、NVIDIA AI Enterprise、NVIDIA DGX OSを含む統合ソフトウェアスタックを備え、DGX SuperPODで複数ラックにスケールできる設計です。
室谷室谷代表取締役
80以上のMGXエコシステムパートナーからのサポートがあるとされているので、ベンダー経由での導入も進んでいくんでしょうね。
テキトー教師テキトー教師DotAI 認定講師
なお、具体的な価格や利用可能なクラウド事業者、提供時期の詳細は、今回のソースでは明らかにされていません。今後の最適化で性能が伸びる見込みだという点は、Artificial AnalysisもNVIDIAも共通して述べています。
室谷室谷代表取締役
MiniMax M3のようなエージェント向けモデルがVera Rubin NVL72で動く話は、MiniMax M3とは?で詳しく解説しているので、モデル側の動きとあわせて追うと全体像が見えますよ。

Vera Rubin NVL72に関するよくある質問

テキトー教師テキトー教師DotAI 認定講師
ここからは、よく聞かれる点を整理していきますね。
室谷室谷代表取締役
まず「Vera Rubin NVL72の基本スペックは?」という点。72基のRubin GPU、36基のVera CPU、GPUメモリ20.7TB HBM4、NVFP4推論3,600 PFLOPS、NVFP4学習2,520 PFLOPS、100%液冷のラックスケール設計です。
テキトー教師テキトー教師DotAI 認定講師
「GB300 NVL72と比べてどれだけ向上したか」については、AA-AgentPerfで電力あたりスループットが最大約5.7倍(DeepSeek V4 Pro)、ピークスループットでは1.14倍から1.45倍という結果です。GPU単体ではメモリ帯域2.4倍、NVLink帯域1.7倍、密なNVFP4演算2.3倍です。
室谷室谷代表取締役
「推論性能の具体的な数値は?」については、DeepSeek V4.1 Flashでピーク571Mトークン/秒/MW、単一4GPUサーバーで906トークン/秒/ユーザーがリーダーボード最速。GLM-5.2で408トークン/秒/ユーザー、Kimi K3で255トークン/秒/ユーザーです。
テキトー教師テキトー教師DotAI 認定講師
「TCOや性能/MWの改善は?」については、NVIDIAの公式ページではGB200 NVL72比でトークンあたりコスト10分の1、MWあたり最大10倍のトークンと訴求されています。ただしこれはKimi-K2-Thinkingモデルを使った比較で、AA-AgentPerfとは条件が異なる点に注意が必要です。
室谷室谷代表取締役
「どのクラウドやベンダーで使えるか」については、今回のソースでは具体的なクラウド事業者名や提供時期は明らかにされていません。NVIDIAの公式ページではAvailable Nowとされ、80以上のMGXエコシステムパートナーからのサポートがあると説明されています。
テキトー教師テキトー教師DotAI 認定講師
「ラックスケール構成の特徴は?」については、72基のGPUを第6世代NVLinkで1つのNVLinkドメインに接続し、100%液冷、ケーブルレスモジュール式トレイ設計、第3世代MGX NVL72ラック設計を採用しています。
室谷室谷代表取締役
というわけで、今回はArtificial Analysisの独立測定でVera Rubin NVL72のエージェント推論効率が可視化された、というのがポイントなんですよね。まだ初期結果で、今後の最適化で差が広がる見込みという点まで含めて、継続して追っていきたいテーマです。

Related

関連記事

New Articles

新着記事

ガイド

GoogleのAIモードとAIによる概要の消し方|公式オフ機能の有無とPC・スマホの回避策

2026年11月18日
室谷テキトー教師
ガイド

Azure OpenAI Serviceとは?料金・モデル一覧・データの扱いを最新情報で整理

2026年11月18日
室谷テキトー教師
ニュース

Perplexityの「Orchestrator API」とは?45以上のモデルを1つのAPIキーに統合

2026年11月18日
室谷テキトー教師
ニュース

Microsoftの「Copilot Workspaces」とは?人とエージェントが協働する新体験

2026年11月18日
室谷テキトー教師
ガイド

Geminiのファミリープランは何人まで?Google AI Proを家族で割る料金と設定の手順

2026年11月18日
室谷テキトー教師
ニュース

Microsoft MAIとは?Ignite 2026で発表の7モデルと料金

2026年11月18日
室谷テキトー教師
ニュース

Replit Missionsとは?エージェントスウォームで目標達成型の自律実行

2026年11月18日
室谷テキトー教師
ニュース

Copilot Fusion Maxとは?Terminal-Bench 4.1首位の自動モデル選択

2026年11月18日
室谷テキトー教師
ニュース

Googleの「Gemini Tasks」とは?日本でも無料開始、Gemini 4 Hydrogen搭載

2026年11月18日
室谷テキトー教師
ニュース

HeyGenの「Avatar 6」とは?実映像と見分け84.4%の最新アバター

2026年11月18日
室谷テキトー教師

Join

AIプレナーになる。

入会は審査制です。いまの事業と、AIで何を動かしたいのかを聞かせてください。

参加を申請する