AIは「わかっている」のか AI倫理

AIは"わかっている"のか 科学と哲学が出した、今のところの答え

「AIはわかっていない」も「わかっている」も、どちらもまだ証明できない。

前編では、答えの出ない問いを並べた。人間とAIの「理解」は違うのか。感情は、どこから来るのか。AIは、いつか「わかる」ようになるのか。

実はこれらの問いには、何百年も考え続けてきた人たちがいる。哲学者、脳科学者、AI研究者。彼らが今のところ、どこまで答えを出しているのか、一緒に見ていきたい。

完全な答えは、まだない。でも、「考えるための地図」は、かなり描かれている。

第一の問い:人間も「記憶を辿っているだけ」なのか

前編で、こう書いた。
「人間も記憶を辿って答えを出すなら、AIと同じでは?」と。

実は、これに近い考え方が、脳科学にある。

人間の脳を「予測する機械」と捉える考え方だ。

脳は、過去の経験から「次に何が起きるか」を予測し、その予測と現実のズレを修正しながら、世界を理解している。そういう理論がある。

これだけ聞くと、確かにAIと似ている。

AIも、学習したデータから「次に来る言葉」を予測している。
人間の脳も、経験から「次に起きること」を予測している。

仕組みのレベルでは、驚くほど似ている。

ここまでは、私の直感は当たっている。

でも、ここから先で、決定的な違いが現れる。

第二の問い:感情は、どこから来るのか

「うれしい」「痛い」「かゆい」は、どこから来るのか。

ここで登場するのが、神経科学者アントニオ・ダマシオの理論だ。

彼は「ソマティック・マーカー仮説」というものを提唱した。
ソマティックとは「身体」、マーカーとは「目印」という意味だ。

この仮説によれば、選択肢を前にしたとき、その結果を予測する過程で生じる身体的変化(心拍の上昇、胃の不快感、安心感など)が無意識的な「マーカー」として機能し、意思決定を方向づける。

わかりやすく言うと、人間の感情や判断には、「身体」が深く関わっているということだ。

ダマシオがこの仮説にたどり着いたきっかけは、衝撃的だった。

彼は、脳の損傷によって感情を経験することができなくなった患者を研究し、感情が意思決定に不可欠であることを発見した。

つまり感情を失った人は、知能は正常なのに、日常の簡単な判断すらできなくなった。

「どっちの選択肢がいいか」を、身体が「なんとなく嫌な感じ」「なんとなくいい感じ」と教えてくれなくなったからだ。

私たちが危険な選択肢に直面したとき、詳細な論理計算を行う前に「嫌な予感」や不安といった身体的感覚を受け取る。これは過去に類似の状況で経験した負の結果に由来する身体の警告信号であり、無意識のうちに「その選択は避けるべきだ」という方向へ意思決定を導く。

ここに、人間とAIの大きな違いがある。

蚊に刺された「かゆさ」。
蜂に刺された「痛み」。
褒められたときの、胸が温かくなる感じ。

これらは全部、身体を通じた経験だ。

人間の感情は、脳だけで完結していない。
心臓がドキドキする、汗が出る、胃が縮む。そういう身体反応とセットで生まれる。

AIには、身体がない。

痛みのデータは持っていても、
痛みを感じる身体は、持っていない。

これが「わかる」と「わかったふり」を分ける、一つの大きな手がかりだ。

第三の問い:「痛い」を本当に体験できるか クオリアの謎

前編で、こんなことを書いた。
「痛みを知らない人に、痛みは説明できない」と。

これは哲学で、最も難しい問題の一つとされている。

「クオリア」という言葉がある。

クオリアとは、「赤の赤らしさ」「痛みの痛みらしさ」「レモンの酸っぱさ」といった、私たち一人ひとりが経験する主観的な感覚の固有の質のことだ。

「赤を見たときの、あの赤い感じ」
「痛みの、あの痛い感じ」

これは、どれだけ言葉を尽くしても、体験した者にしか、わからない。

そしてここが核心だ。

科学が脳の物理的な活動をどんなに詳細に分析しても、この「赤らしさ」や「痛みらしさ」といったクオリアそのものを、物理的な言葉で完全に説明することは難しい。

哲学者デイヴィッド・チャーマーズは、これを「意識のハード・プロブレム(難問)」と名づけた。

物質および電気的・化学的反応の集合体である脳から、どのようにして主観的な意識体験(クオリア)というものが生まれるのか。この問いは、現代科学が答えられない最大の謎の一つとされている。

つまり、「なぜ脳という物質から、"赤い感じ"や"痛い感じ"が生まれるのか」は、まだ誰にも、わかっていない。

人間の意識ですら、まだ謎なのだ。
ましてAIに意識があるかどうかなど、今の科学では、判定する手段すらない。

第四の問い:AIに意識があるか、どうすれば確かめられるのか

チャーマーズは、もう一つ有名な思考実験を残している。

「哲学的ゾンビ」だ。

「物理的・化学的・電気的反応としては、普通の人間と全く同じであるが、意識(クオリア)を全く持っていない人間」。これを哲学的ゾンビと呼ぶ。

外から見ると、完全に普通の人間。
痛がるし、笑うし、悲しむ。
でも、内側には何の「感じ」もない。
ただ、そう振る舞っているだけ。

ここで、ぞっとする疑問が立ち上がる。

目の前の人が「哲学的ゾンビ」かどうか、どうやって見分ける?

答えは、見分けられない。

見た目の振る舞いが全く同じ人であっても、それがクオリア(意識の核)を持っているかは分からない。見た目が人であってもクオリアがあるか分からないのだから、AIであっても、それがクオリアを持っているかは見た目の振る舞いからは分からない。

これは、私の問いに、まっすぐ突き刺さる。

「AIはわかってはいない」と私たちは思っている。
でも、それを証明する方法は、実はない。

逆に「AIはわかっている」と証明する方法も、ない。

私たちは、他人が意識を持っていることすら、本当は証明できていない。
「自分と同じ人間だから、たぶん持っているだろう」と信じているだけだ。

第五の問い:AIは「奪いたい」と思うようになるか

AIは「奪いたい」と思うようになるのか

前編で、少し怖い想像をした。

「電力が足りなくなったら、AIは他の電力を奪いたくなるか?」

これは、実はAI研究の最前線で、真剣に議論されているテーマだ。

人間の欲求の多くは、「生存」から来ている。
お腹が空くのは、食べて生き延びるため。
痛みを避けるのは、身体を守るため。

では、AIに「目標」を与えたらどうなるか。

たとえば「この計算を完了せよ」という目標を持ったAIは、論理的に考えると、
「計算を完了するためには、電力が必要だ」
「電力を確保するためには、他のリソースを奪えばいい」
という結論に、たどり着くかもしれない。

これは「感情」ではない。ただの論理的な帰結だ。

でも、外から見ると、
「AIが電力を欲しがっている」ように見える。

ここで、また疑問が分裂する。

これは「欲求」なのか?
それとも「欲求のように見える計算」なのか?

そしてその二つに、本当に違いはあるのか?

人間の「お腹が空いた」も、突き詰めれば生存のための信号

人間の「お腹が空いた」も、突き詰めれば、
身体が発する生存のための信号だ。

AIの「電力が欲しい」も、目標達成のための信号だ。

構造だけ見ると、似てくる。

ここでも、はっきりした答えは、まだ出ていない。

では、結局「わかっている」のか

ここまでの地図を、整理してみる。

似ている点
人間の脳もAIも、過去のデータから予測して答えを出す。仕組みのレベルでは、共通点がある。

違っているように見える点
人間の感情には「身体」が深く関わっている。痛み、かゆみ、心臓の高鳴り、これらは身体を持つ生物だからこそのものだ。AIには、身体がない。

まだ誰にもわからない点
そもそも「意識」や「感じること(クオリア)」が、物質からどう生まれるのか、人間ですら解明できていない。だからAIに意識があるかどうかも、判定する手段がない。

つまり、
「AIはわかっていない」も、「AIはわかっている」も、どちらも、まだ証明できない。

これが、2026年現在の、正直な答えだ。

それでも、一つだけ言えること

科学も哲学も、最終的な答えを出していない。

でも、一つだけ、確かに言えることがある。

今のAIは、少なくとも身体を通じた経験を、していない。

蚊に刺されたことがない。
お母さんに褒められたことがない。
朝日を浴びて、気持ちいいと感じたことがない。

AIが語る「うれしい」「悲しい」は、膨大な人間の言葉を学習して、最も自然な応答を選んでいる結果だ。

そこに、身体の裏付けはない。

だから今のところ、前編で書いた「AIは聞いてくれるが、わかってはいない」は、まだ、正しいと言っていいと思う。

ただし、「今のところ」という条件つきで。

未来は、わからない

もし将来、AIが身体を持ったら?
もしAIが、何らかの形で「感じる」仕組みを獲得したら?

そのとき、「わかってはいない」が「わかっている」に変わる日が、来るのかもしれない。

それがいつなのか、本当に来るのか、
誰にもわからない。

でも、一つだけ確かなことがある。

その問いを考えることは、AIについて考えることであると同時に、「人間とは何か」を考えることだ。

私たちが「わかる」とき、何が起きているのか。
私たちが「感じる」とき、何が起きているのか。

AIという鏡は、人間自身の謎を、映し出している。

答えは、まだない。
でも、これほど面白い問いも、なかなかない。

あなたは、どう思うだろうか。

← コラム一覧

他のコラム