GoogleがNvidia税を払わない理由：新しいTPUがその秘密を明かす
Google doesn't pay the Nvidia tax. Its new TPUs explain why.
記事のポイント
📰ニュース
Googleが第8世代Tensor Processing Units（TPU v8tとv8i）を発表しました。
🔍注目ポイント
AIワークロードを訓練用と推論用に特化した2種類のカスタムチップを開発し、垂直統合によりコスト効率を高めています。
🔮これからどうなる
Google Cloudの顧客は、より効率的で低コストなAIモデルの訓練と推論が可能になります。
TPU v8tはフロンティアモデルの訓練に特化し、最大100万個のチップにスケール可能で、データ転送も高速化されています。
TPU v8iは低遅延でメモリを大量に消費する推論やリアルタイムサンプリング向けに設計されています。
Googleは2年前にチップのロードマップを2種類に分割する決定を下し、業界のトレンドを先取りしました。
TPU v8iは低遅延でメモリを大量に消費する推論やリアルタイムサンプリング向けに設計されています。
Googleは2年前にチップのロードマップを2種類に分割する決定を下し、業界のトレンドを先取りしました。
概要
Every frontier AI lab right now is rationing two things: electricity and compute. Most of them buy their compute for model training from the same supplier, at the steep gross margins that have turned Nvidia into one of the most valuable companies in the world. Google does not.On Tuesday night, insi…
GoogleがNvidiaに依存せず、自社開発のTPUでAIの訓練と推論を最適化しているのはすごいですね。これにより、私たちの生活で使われるAIサービスのコストが下がるかもしれません。