AIと国家 AI倫理

AIが国家の武器になる世界線

知能に国境ができ、AI格差が国力を決める。持たざる国が、持つ国に従う世界。

知能に国境ができ、AI格差が国力を決める。持たざる国が、持つ国に従う世界。

前編で、こう書いた。

最先端のAIが、国家の一声で、3日で消えた。私は、その現場に居合わせた、と。

関連記事:3日で消えたAI なぜ「最強モデル」だけが止められたのか(前編)

今回は、その先を考えたい。

もし、あの出来事が「例外」ではなく、「これからの当たり前」になったら、世界は、どうなるのか。

少し、想像の旅に出てみる。

まず、確認しておきたいこと

念のため言っておくと、これから書くのは「予測」だ。
当たるかもしれないし、外れるかもしれない。

でも、根拠のない空想じゃない。

前編で見た事実AIが「戦略資産」になり、国家が利用を止められるこの延長線を、まっすぐ伸ばすと、見えてくる景色だ。

未来は、こうなると決まっているわけじゃない。でも、こうなりうる、とは言える。

その「ありうる未来」を、一緒に見てほしい。

世界線①:AIに「国籍」がつく

AIに国籍がつき、知能に国境ができる

これまで、ソフトウェアに国籍はなかった。

どの国の人でも、同じツールを使えた。インターネットは、国境を越えて、平等だった。

でも、その前提が、崩れ始めている。

今回の「外国人は使うな」という指令は、AIに、事実上の「国籍」をつけた。

このAIは、米国のものだ。だから、米国民が優先される。外国人は、制限される。

これが広がると、どうなるか。

最先端AIは、自国民専用になる。他国の人間は、一世代、二世代古いモデルしか使えない。

スマホやPCは、世界中同じものが買える。でも、その「頭脳」であるAIは、国によって性能が違う。

そんな時代が、来るかもしれない。

「どの国のパスポートを持っているか」で、使えるAIの賢さが、変わる。

知能に、国境ができる。

世界線②:「AI格差」が、国力の差になる

AI格差が国力の差となり複利で広がる

これは、もっと深刻だ。

今、世界のAIをリードしているのは、事実上、米国と中国の2強だ。最先端モデルの多くは、この2国から生まれている。

もし「高性能AIは自国優先」が常態化したら、この2国と、それ以外の国の差は、決定的になる。

考えてみてほしい。

AIは、これから、あらゆる分野の生産性を左右する。科学研究、軍事、経済、医療、教育。

最強のAIを持つ国は、新薬を、他国の何倍も速く開発できる。兵器を、他国の何倍も速く設計できる。経済を、他国の何倍も効率的に回せる。

その差が、毎年、積み上がっていく。
一度開いた差は、もう、追いつけない。

なぜなら、AIが、次のAIを作るのを、助けるからだ。

賢いAIを持つ国が、もっと賢いAIを作る。その差で、さらに引き離す。

これは「複利」だ。時間が経つほど、差は加速度的に広がる。

世界線③:他国は、逆らえなくなる

核兵器と同じ構造の力の支配

ここが、私が見た「世界線」の核心だ。

AI格差が、国力の差になったとき。最先端AIを持たない国は、それを持つ国に、逆らえなくなる。

なぜか。歴史を振り返ると、わかりやすい。

かつて、核兵器を持つ国と、持たない国の間に、決定的な力の差が生まれた。

核を持つ国は、外交で強く出られる。持たない国は、核の傘の下に入るか、従うしかない。

AIも、同じ構造になりうる。

最強のAIは、サイバー戦争の決定打になる。相手国のインフラの弱点を、一瞬で見つけ出す。電力網、金融システム、通信すべてを、麻痺させられる。

前編で見た、Mythosの「脆弱性発見能力」。あれが、まさにそれだ。

何十年も誰も気づかなかった弱点を、見つける力。それは、最強の盾であり、最強の矛でもある。

その力を持つ国に、持たない国は、事実上、逆らえない。

「AIの傘」の下に入るか、従属するか。新しい形の、力の支配が生まれる。

世界線④:「デジタル従属」という、静かな支配

AIの蛇口を締めるだけで成立するデジタル従属

ただ、AIによる支配は、核兵器とは少し違う。

核は、撃てば終わりだ。わかりやすく、破滅的だ。

でも、AIによる支配は、もっと、静かで、見えにくい。

たとえば、こうだ。

ある小国が、自国でAIを作れない。だから、大国のAIを借りる。

便利だから、どんどん依存する。行政も、経済も、教育も、その大国のAIで回すようになる。

気づいたときには、その国の「頭脳」は、大国に握られている。

大国が「使わせない」と言えば、その国の社会は、止まってしまう。

軍隊を送り込む必要は、ない。ただ、AIの蛇口を、締めればいい。

これが「デジタル従属」だ。

支配されている側は、支配されている自覚すら、薄い。便利に使っているうちに、いつのまにか、首根っこを掴まれている。

そして、これは、すでに始まっている話かもしれない。

私たちは今、どこの国のAIを使っているだろうか。それが止まったとき、何が困るだろうか。

考えると、少し、ぞっとする。

でも、ここで「逆の流れ」もある

オープンモデルが独占に対抗する

暗い話ばかりしてきた。でも、未来は、一方向には進まない。

実は、この「AIの独占」に対抗する流れも、すでに、はっきり存在している。

それがオープンモデルだ。

中国は、高性能なAIモデルを、無料で公開している。DeepSeekやGLMといったモデルは、誰でもダウンロードして、使える。

これは、独占とは正反対の動きだ。

「最強のAIを、自国で囲い込む」米国の動きと、「高性能AIを、世界にばらまく」中国の動き。この2つが、せめぎ合っている。

オープンモデルが広がれば、「AIに国籍がつく」未来は、簡単には来ない。

止められても、別のモデルがある。囲い込まれても、無料の代替がある。

実際、前編で見たAnthropicの反論も、これに近い。「うちのモデルを止めても、同じ能力は他にもある」と。

独占したい力と、拡散する力。この綱引きが、未来を決める。

「悪意ある者」は、どうなるのか

「規制しても、オープンモデルがある。悪意ある者がモデルを改造して、なんでもありの世になるか?」

正直に言う。リスクは、ある。

高性能なオープンモデルが出回れば、それを改造して、安全装置を外すことは、技術的に可能だ。

サイバー攻撃に特化させたAIを作る。詐欺を自動化するAIを作る。そういうことが、起きないとは言えない。

規制で、すべては止められない。これは、認めるしかない現実だ。

でも。「なんでもあり」になるかというと、そうでもない、と思う。

理由は、前編で触れた「諸刃の剣」だ。攻撃に使えるAIは、防御にも使える。

悪意ある者が、攻撃AIを作るなら、守る側も、防御AIを作る。
弱点を見つけるAIがあるなら、弱点を塞ぐAIもある。

矛と盾が、同じ速度で、進化する。

歴史を見ても、そうだった。新しい武器が生まれると、新しい防御が生まれた。コンピュータウイルスが生まれると、ウイルス対策が生まれた。

一方的に「なんでもあり」になることは、たぶん、ない。

ただ、矛と盾の、終わりのない競争が、これまでより、ずっと高速で、激しくなる。それが、これからの世界だ。

じゃあ、私たちは、どうすればいいのか

壮大な話をしてきた。国家の支配、デジタル従属、矛と盾の競争。

でも、最後に、足元に戻りたい。一人の人間として、この世界線に、どう向き合うか。

一つ、確かなことがある。「AIを使える側」でいること。

国家がどう動こうと、規制がどうなろうと、AIを使いこなす個人の力は、奪われない。

どのモデルが使えなくなっても、別のモデルを使いこなせる柔軟さ。道具が変わっても、本質を見抜く力。

それは、国家にも、企業にも、奪えない。

前編で、私はFableを使えなくなった。でも、Fableがなくても、私はAIを使い続けている。別のモデルで、同じことをやっている。

道具は、奪われた。でも、使う力は、奪われなかった。
これが、答えなのかもしれない。

最強のAIより、大事なもの

もう一つ。この一連の出来事を見ていて、思ったことがある。

最強のAIを、誰が持つか。それは、確かに重要だ。

でも、本当に大事なのは、そのAIを、何のために使うかだ。

Anthropicと政府が対立しているのも、突き詰めれば、そこだ。

「AIを、国家の武器にしていいのか」
「AIを、監視の道具にしていいのか」

性能の話じゃない。使い方の、思想の話だ。

どんなに強いAIも、それをどう使うかを決めるのは、人間だ。

支配の道具にもできる。解放の道具にもできる。

その選択を、私たちは、これから、何度も、突きつけられる。

最後に

AIが国家の武器になる世界線。

それは、もしかしたら、来るかもしれない。知能に国境ができ、AI格差が国力を決め、持たざる国が、持つ国に従う世界。

でも、それと同時に、オープンモデルが広がり、力が分散し、個人がAIを使いこなす世界も、来るかもしれない。

どちらの世界線に進むかは、まだ決まっていない。

今、私たちは、その分岐点に立っている。

3日で消えたAIは、その分岐点の存在を、教えてくれた。

便利に使っていたあのAIが、実は、国家の戦略をめぐる、大きな物語の一部だった。

私たちは、もう、ただのユーザーじゃない。この物語の、登場人物の一人だ。

どんな世界線を望むのか。それを考えることから、すべては始まる。

あなたは、どちらの世界を、望むだろうか。

← コラム一覧

他のコラム