NVIDIA Vera Rubin、パートナー向けにワットあたり性能とトークンコストを最適化
NVIDIA Vera Rubin Driving Performance Per Watt, Lowest Token Cost for Partners Worldwide
記事のポイント
📰ニュース
NVIDIAの次世代AIスーパーコンピューター「Vera Rubin NVL72」の生産が本格化し、主要クラウドプロバイダーで稼働を開始しました。
🔍注目ポイント
Vera Rubinは、ワットあたりの性能とトークンあたりのコストを大幅に改善し、AIモデルの効率的な運用を可能にします。
🔮これからどうなる
企業はより低コストで大規模なAIモデルを開発・運用できるようになり、AIサービスの普及が加速するでしょう。
Vera Rubin NVL72は、CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructureといった主要なクラウドパートナーで導入が進んでいます。
30カ国350以上の工場サイトにまたがる大規模なサプライチェーンが構築されており、顧客の計算需要に応える体制が整っています。
これにより、AI開発のボトルネックとなっていた計算リソースの課題が緩和されることが期待されます。
30カ国350以上の工場サイトにまたがる大規模なサプライチェーンが構築されており、顧客の計算需要に応える体制が整っています。
これにより、AI開発のボトルネックとなっていた計算リソースの課題が緩和されることが期待されます。
NVIDIAのVera Rubinがクラウドで本格稼働し始めましたね。これにより、私たちの生活で使われるAIサービスの応答速度やコストが改善されるかもしれません。