限界だったのではない。計算機が追いついていなかっただけだ。

電気屋で買えるGTX 580を2枚。5日間の学習。それで、世界中の研究者の手法が「古い方法」になった。

2012年9月30日。

トロント大学の、3人の研究者が、
画像認識の世界的なコンテストに、一つのAIを送り込んだ。

使った機材は、ゲーマー向けのグラフィックボード2枚。
GeForce GTX 580当時、電気屋で買えたものだ。

その2枚で、5日から6日間、AIを学習させた。

結果は、圧勝だった。

2位との差が、あまりに大きすぎて、
他の研究者たちは、その数字を疑うところから始めなければならなかった。

この日、AIの歴史が変わった。

そしてこの日、
6年間ほとんど誰も使わなかったCUDAが、
世界の中心に躍り出た。

第1話で「答えを持って待っていた」NVIDIAに、
ついに「問い」が来たのだ。

「AIの冬」という時代

まず、2012年以前のAIがどんな状況だったかを、知っておいてほしい。

AIの研究には、何度か「冬」があった。
期待が高まって、失望して、研究費が消える。
それを何度も繰り返してきた。

2000年代のAI研究も、地味な時代だった。

特に「ニューラルネットワーク」
人間の脳の仕組みをまねた計算方式は、
「昔流行ったけど、限界が見えた技術」と見られていた。

理論は、あった。
1980年代に、すでに基本的なアイデアは出ていた。

でも、うまくいかなかった。

理由は、一つ。
計算が、重すぎた。

ニューラルネットワークを賢くするには、
層を深く、大きくする必要がある。
でも大きくすると、学習に必要な計算が爆発的に増える。

当時のCPUでは、何週間、何ヶ月かかっても終わらない。
だから研究者たちは、小さなモデルしか試せなかった。
小さなモデルは、大した性能を出せなかった。

「やっぱりニューラルネットは、使えない」

そう思われていた。

本当は、違った。
アイデアが悪いのではなく、計算機が追いついていなかっただけだった。

画像認識コンテスト「ImageNet」

2010年から、あるコンテストが始まった。

ImageNet（イメージネット）。

120万枚の画像を、1000種類に分類する。
「これは犬」「これは猫」「これは飛行機」と、AIに当てさせる競技だ。

その精度を競うのだが、2010年、2011年の成績は、
エラー率（間違える割合）が25〜26%あたり。

つまり、4枚に1枚は間違える。

しかも、改善は年に1〜2%程度。
少しずつ、じりじりと、精度が上がっていく。
そういう、地道な競技だった。

参加者の多くは、
「人間が設計した特徴」をAIに教え込む、伝統的な手法を使っていた。

ニューラルネットワークで挑む人は、少数派だった。

GTX 580を、2枚

トロント大学のジェフリー・ヒントン教授の研究室に、
Alex Krizhevsky（アレックス・クリジェフスキー）という学生がいた。

彼は、みんなが諦めていた「ニューラルネットワーク」に、
真正面から挑もうとしていた。

ただし、他の人と違うことが一つあった。

彼は、CUDAで書いた。

GPUを使えば、大量の同じ計算を一斉にできる。
ニューラルネットワークの学習は、まさに「大量の同じ計算」だ。

第1話で書いた通り、
GPUの得意なことと、AIの学習は、構造が同じだった。

彼は、ゲーマー向けのGTX 580を2枚用意した。
1枚ではメモリ（3GB）が足りなかったので、
モデルを半分に分けて、2枚に載せた。

CPUなら、何ヶ月もかかる計算。
それが、GPU2枚で、5〜6日で終わった。

これで、それまで「重すぎて試せなかった」大きなモデルを、
実際に学習させることが、できるようになった。

15.3% vs 26.2%

2012年9月30日、結果が出た。

彼らのAI（後に「AlexNet（アレックスネット）」と呼ばれる）の
エラー率は、15.3%。

2位は、26.2%。

その差、10.8ポイント。

毎年1〜2%ずつしか改善しなかった競技で、
いきなり10ポイント以上、跳ねた。

これは「勝った」というレベルの話じゃない。

他のすべてのチームが積み上げてきた手法が、
一夜にして「古い方法」になった。

研究者たちは、混乱した。
「何かの間違いではないか」と疑う人もいた。

でも、間違いではなかった。

みんなが「限界だ」と思っていたニューラルネットワークは、
限界だったのではなく
計算機が追いついていなかっただけだった。

そして、追いついた計算機の名前は、GPUだった。
それを動かしていたのが、CUDAだった。

論文に書かれた、一つの予言

AlexNetの論文には、印象的な一文がある。

要約すると、こういう内容だ。

「私たちの結果は、より速いGPUと、より大きなデータセットを待つだけで、改善できる」

これは、とんでもないことを言っている。

普通、研究というのは、
新しいアイデアで、性能を改善するものだ。

でも彼らは言った。
「アイデアはもう十分だ。あとは計算機が速くなれば、勝手に賢くなる」と。

この一文が、その後10年のAI研究の方向を決めた。

「大きくすれば、賢くなる」

そのために必要なのは、より多くのGPUだった。

雪だるまが、転がり始めた。

なぜ、研究者は全員CUDAを使うようになったのか

ここからが、CUDAの「堀」ができていく過程だ。

AlexNetの後、世界中の研究者が、
一斉にGPUでニューラルネットワークを動かし始めた。

そのとき、彼らは何を使ったか。

AlexNetが、CUDAで書かれていたのだ。
AlexNetのコードは、公開されていた。
それを参考に、次の研究をするなら、当然CUDAを使う。

そして、CUDAで書かれた研究が、また次の研究の土台になる。

• 論文は、CUDAで書かれたコードとともに公開される。
• 教科書は、CUDAを前提に書かれる。
• 大学の授業は、CUDAで教えられる。
• 学生は、CUDAで育つ。

これが、雪だるまだ。

一度転がり始めると、
転がるほど大きくなり、大きくなるほど速く転がる。

そして、部品が積み上がっていく

雪だるまの中身は、「人」だけじゃない。

もっと大事なものが、積み上がっていった。

部品（ライブラリ）だ。

AIの計算には、繰り返し使う定番の処理がある。
行列の掛け算。畳み込み。正規化。

これらを、毎回一から書くのは無駄だ。
だから、誰かが最適化された部品を作って、公開する。
みんながそれを使う。

NVIDIAは、ここに徹底的に投資した。

2014年、cuDNN（クーディーエヌエヌ）という、
ニューラルネットワーク専用の部品集を出した。
これを使うと、面倒な処理を、最速の形で呼び出せる。

その後も、次々と部品を出し続けた。
学習用、推論用、通信用
あらゆる場面に、CUDA専用の最適化済み部品が揃っていく。

ここで、決定的なことが起きる。

世界中のAIのソフトが、これらの部品を前提に作られるようになった。

TensorFlow、PyTorch
AI開発の標準的な道具は、みんな中でCUDAの部品を呼んでいる。

つまり、AIをやるということは、
知らないうちにCUDAを使うということになった。

CUDAを意識すらしなくなった。
空気のように、そこにあるものになった。

堀の正体

ここで、第1話の伏線を回収したい。

第1話で、フアンは「10年、赤字に耐えた」と書いた。

その10年で、NVIDIAが手に入れたものは何だったのか。

技術ではない。
GPUの技術だけなら、AMDだって持っていた。

手に入れたのは時間だ。

2012年にAIブームが来たとき、
CUDAは、すでに6年の蓄積があった。
使い方は確立され、教科書があり、使える人がいた。

AMDが同じものを作ろうとしても、
2012年からのスタートになる。

そして雪だるまは、待ってくれない。
CUDAの上に、毎年、新しい研究と部品が積み上がっていく。
追いかける側は、動く的を追うことになる。

堀とは、技術の差ではない。積み上がった時間の差だ。

これは、後から金で買えない。
どれだけ優秀な技術者を集めても、
20年分の蓄積を、1年で作ることはできない。

第1話の「10年赤字」は、無駄な投資ではなかった。
堀を掘るための、10年だった。

2016年、データセンターへ

雪だるまは、大学の外にも転がっていった。

2016年、NVIDIAは「Tesla P100」というGPUを出した。
ゲーム用ではない。
最初からAIとデータセンター向けに設計された、初めての本格的なチップだ。

Google、Facebook、Amazon
巨大IT企業が、AIのために、GPUを大量に買い始めた。

この頃から、NVIDIAの「データセンター事業」が急成長を始める。

かつて脇道だった「計算」が、
ゲームと並ぶ、本業になっていった。

そして2017年、「Transformer（トランスフォーマー）」という
新しいAIの仕組みが発表される。

これが、後のChatGPTの土台になる技術だ。

そしてもちろん、Transformerも、CUDAの上で育った。

2022年、雪だるまが山になった

2022年11月、ChatGPTが登場した。

世界中が、生成AIに殺到した。

そして、みんなが気づいた。

AIを動かすには、GPUがいる。
大きなAIほど、大量のGPUがいる。
そしてAIのソフトは、全部CUDAで動いている。

だから、NVIDIAのGPUを買うしかない。

需要は、爆発した。

GPUは品薄になり、
価格は跳ね上がり、
各国の政府や企業が、GPUを奪い合った。

NVIDIAの売上は、2023年から急激に伸びた。
そして2026年7月、時価総額は約5兆ドル。世界一。

2006年に、誰も使わなかった仕組みが、
16年後、世界で最も価値のある会社を作った。

振り返ると、全部つながっている

ここまでの物語を、一本の線にすると、こうなる。

• 2000年代初頭、スタンフォードの学生が「GPUで計算できないか」と考えた。
• 2006年、NVIDIAがそれを製品にした。誰も使わなかった。
• それでも10年、投資を続けた。
• 2012年、トロントの学生がGPU2枚でAIを学習させ、圧勝した。
• 研究者が一斉にCUDAを使い始め、部品が積み上がった。
• 2016年、企業がデータセンターにGPUを入れ始めた。
• 2022年、ChatGPTで世界が変わった。
• 2026年、AIの9割がNVIDIAの上で動いている。

どの一歩も、次の一歩の土台になっている。

そして、一番重要なのは
この線は、2006年の「誰も求めていない投資」から始まっているということだ。

問いが来る前に、答えを用意していた者。
その者だけが、問いが来たとき、すべてを取れた。

しかし、堀は永遠ではない

ここまで、CUDAの堀がいかに深いかを書いてきた。

でも、2026年の今、
「その堀が崩れ始めた」という声が、急に増えている。

AMDが追いついた。
Googleが自分でチップを作った。
中国が独自の道を歩み始めた。

本当に、崩れているのか。

次回からは、その堀を
4つの層に分けて、一つずつ採点していく。

崩れた堀と、無傷の堀。
その違いが、NVIDIAの未来を決める。