NVIDIA Vera Rubin NVL72がMLPerf Inference v6.1で最高の性能を達成
NVIDIA Vera Rubin NVL72 Delivers Leading Performance in MLPerf Inference v6.1 Debut
記事のポイント
📰ニュース
NVIDIAの新しいVera Rubin NVL72システムが、AI推論ベンチマークMLPerf Inference v6.1で優れた性能を発揮しました。
🔍注目ポイント
NVL72は、Transformerモデルの推論において、前世代のH200システムを大幅に上回る性能向上を実現しました。
🔮これからどうなる
企業はより少ないリソースで大規模なAIサービスを提供でき、AIモデルの展開と運用コストを削減できます。
NVIDIAは、システム性能、効率的なインフラ拡張、継続的なソフトウェア最適化がAI推論の経済性を決定する主要因であると強調しています。
NVL72は、これらの要素を改善し、特に大規模言語モデルの推論において高いスループットと低レイテンシを実現しました。
これにより、AIインフラ投資からの価値を最大化します。
NVL72は、これらの要素を改善し、特に大規模言語モデルの推論において高いスループットと低レイテンシを実現しました。
これにより、AIインフラ投資からの価値を最大化します。
NVIDIAの新しいNVL72システムは、AI推論の効率を大きく向上させ、私たちの生活で使われるAIサービスの応答速度やコストに良い影響を与えそうです。