悪意がAIで加速するなら、善意もAIで加速する。 AIによるサイバー防御
攻撃者が使うのと同じAIを、守る側も使っている。矛が鋭くなるなら、盾も厚くなる。
攻撃者が使うのと同じAIを、守る側も使っている。矛が鋭くなるなら、盾も厚くなる。
ここまで、4話にわたって、暗い話をしてきた。
最先端の頭脳は、蒸留でコピーされる(第1話)。
安全装置は、一本の線を切れば外せる(第2話)。
愉快犯を止めていた壁が、消える(第3話)。
善良なAIすら、騙されて裏切る(第4話)。
これだけ並べれば、こう思うのが自然だ。
もう、終わりだ。世界は、悪意に飲み込まれる。
でも、本当にそうだろうか。
最終話で、この問題に、正面から答えたい。
結論を、先に言う。
世界は、たぶん壊れない。
ただし、「安全な時代」も、もう戻ってこない。
その、両方を説明する。
忘れていた、もう半分の話
これまでの4話には、共通する「死角」があった。
ずっと、攻撃する側の話ばかりしていた。
AIを悪用する人。安全装置を外す人。愉快犯。騙す人。
でも、世界には、もう半分がいる。
守る側だ。
そして、ここが肝心なのだが
攻撃者が使っているのと、同じAIを、守る側も使っている。
矛が鋭くなるなら、盾も厚くなる。
しかも、同じ素材で、同じ速さで。
第3話の最後に、一言だけ置いておいた。
「一番賢いAIは、一番よく見張られている」と。
その意味を、ここで回収する。
AIは、弱点を「見つける」のが得意だ
このシリーズの、ずっと前に書いた記事を思い出してほしい。
ある最先端AI(Mythos)が、
「何十年も誰も気づかなかったソフトの弱点を、見つけ出す」能力を持っていた、という話だ。
それが、米国政府に止められる騒ぎになった。
関連記事:3日で消えたAI なぜ「最強モデル」だけが止められたのか
あのとき書いたのは
この力は、攻撃にも防御にも使える「諸刃の剣」だということだった。
攻撃者が弱点を見つければ、そこを突いてくる。
でも、守る側が先に見つければ、そこを塞げる。
同じ能力だ。
使う向きが、逆なだけ。
そして2026年、守る側は、この力を本格的に使い始めた。
守る側の、実際の成果
抽象論ではない。具体的な成果が、次々と出ている。
Googleは、AIを使った弱点探索の仕組み(Big Sleep)で、
Chromeというソフトのコードを調べ、
13年以上、誰も気づかずに残っていた弱点を見つけ出した。
13年だ。
人間が何年見ても見つからなかったものを、AIが掘り当てた。
さらにGoogleは、見つけた弱点を自動で修正する仕組み(CodeMender)も作っている。
見つけるだけでなく、直すところまで、AIがやる。
米国の国防高等研究のDARPAは、AI同士を競わせる大会を開いた。
参加したAIたちは、巨大なソフトの中から、
用意された63件の弱点のうち54件を見つけ、43件を修正した。
平均修正時間は、約45分。
人間なら、一つの弱点を見つけて直すのに、何日もかかることがある。
それを、AIが45分でやってのける。
そして、第2話のシリーズで登場した、あのMythos。
あれは今、Project Glasswing(プロジェクト・グラスウィング)という
「責任ある開示」の仕組みを通じて、
見つけた弱点を、こっそりソフトメーカーに伝え、
悪用される前に、静かに塞いでいる。
攻撃者だけが、AIで武装しているわけではない。
守る側は、もっと大規模に、組織的に、AIで武装している。
「防御側の窓」という考え方
OpenAIが2026年に出した文書に、印象的な言葉がある。
「Defender’s Window(防御側の窓)」。
こういう考え方だ。
攻撃にAIを使う能力が、悪い人たちに広く行き渡る前の、今この時期。
ここは、守る側にとっての「窓」 チャンスの時間だ。
今のうちに、守る側がAIで武装を終えておけば、
攻撃の波が来ても、受け止められる。
逆に、この窓の間にサボれば、
攻撃の波に、間に合わなくなる。
つまり、今は
攻撃と防御が、同じAIを手に、競走している時期なのだ。
どちらが勝つかは、決まっていない。
でも、守る側は、負けるつもりで座っているわけではない。
それでも、「元の安全」には戻らない
ここまでは、希望の話だ。
でも、正直でいたい。
「盾があるから大丈夫」で終わらせるのは、嘘になる。
一つ、取り返しのつかない変化がある。
「パッチの猶予」が、消えた。
これまで、ソフトに弱点が見つかると、こういう流れだった。
弱点が見つかる → 修正プログラム(パッチ)が配られる →
利用者が、数日〜数週間かけて、ゆっくり適用する。
この「数日〜数週間」の猶予が、安全の余白だった。
でも今、AIは、修正プログラムが公開された直後に、
その修正内容を逆算して、
数時間で攻撃コードを組み立てられるようになりつつある。
猶予が、数週間から、数時間に縮んだ。
ある月、Microsoftが過去最多の206件の弱点を一度に修正した。
専門家は、その急増の主因を「AIによる弱点発見」と見ている。
弱点が、見つかる速さも、突かれる速さも、桁違いに上がった。
世界は壊れない。でも、のんびりしていられる時代は、終わった。
これが、正直な現在地だ。
そして、本当の防衛線は、AIじゃない
ここで、このシリーズ全体を貫いてきた思想に、戻りたい。
攻撃のAIと、防御のAIが、超高速で殴り合う。
その攻防は、大半が、私たちの見えないところで起きる。
では、普通の私たちは、無力なのか。
そうではない。
第4話を思い出してほしい。
AIが騙される弱点に対して、一番確実な防御は
人間が、最後の確認役に残ることだった。
AIが「このデータを外部に送ります」と言ったとき、
「待って、それ誰が頼んだ?」と立ち止まれる人間。
攻撃も防御も自動化が進むほど、
最後に効くのは、実は、人間の、この一瞬の「待て」だ。
怪しいメールのリンクを、開かない。
うまい話に、一呼吸おく。
AIの出力を、鵜呑みにしない。
地味だ。
でも、どんなに攻撃が高度化しても、
多くの被害は、結局、この「人間の油断」から入ってくる。
最先端の矛と盾がぶつかる時代の、
一番身近な防衛線は
あなた自身の、慎重さなのだ。
このシリーズで、伝えたかったこと
5話を通じて、「AIと悪意」を見てきた。
最初の問いは、私を含め多くの人が感じている不安だった。
「AIが発達して、安全装置を外せて、誰でも悪用できるなら、
世界は、なんでもありの混乱になるんじゃないか」
その不安は、正しい。
一本ずつ、現実の事例で、矢印はつながってしまった。
でも、同時に、見落としていたものがあった。
悪意がAIで加速するなら、善意もAIで加速する。
弱点を見つけるAIは、塞ぐAIでもある。
騙すAIがいれば、守るAIもいる。
矛と盾は、同じ素材で、同じ速さで、進化していく。
だから、世界は
一方的に、悪意に飲み込まれたりはしない。
ただし、その攻防は、これまでより、ずっと速く、ずっと激しい。
のんびりした安全は、もう戻らない。
私たちは、その「終わらない攻防」の時代を、
これから生きていく。
最後に
AIは、人類がこれまで作った、最も強力な道具だ。
強力な道具は、いつもそうだった。
火も、刃物も、車も、原子力も
人を助けもすれば、人を傷つけもした。
道具に、善悪はない。
善悪は、いつも、使う人間の側にある。
AIも、同じだ。
このシリーズで見た悪意も、
同じシリーズで見た善意も、
どちらも、同じAIから生まれている。
どちらが勝つかを決めるのは、AIではない。
私たち一人ひとりが、どちら側に立つかだ。
世界が壊れるかどうかは、
技術が決めるのではなく
それを使う、人間が決める。
まだ、決まっていない。
だから、まだ、間に合う。