あなたが今読んでいるこの文章を、AIは「理解」して書いているのだろうか。それとも、ただ記号を並べているだけなのか。
完璧な返答をする人間が、何も理解していない
1980年、アメリカの哲学者ジョン・サール（カリフォルニア大学バークレー校教授）は一つの思考実験を発表した。
部屋の中に、中国語をまったく知らない英語話者が閉じ込められている。部屋には小窓があり、外から中国語で書かれた質問が差し込まれる。中の人間には分厚いマニュアルがあり、「この記号が来たらこの記号を返せ」という手順が英語で細かく書かれている。
彼はその手順に従い、意味を理解しないまま返答を作り、小窓から外へ返す。
外にいる中国語話者には、完璧な中国語の返答が返ってきた。チューリングテスト（AIが人間と区別できないほど自然な会話ができるかを判定する試験）に合格した状態だ。しかし部屋の中の人間は、中国語を1文字も理解していない。
サールはこの実験で一つの問いを立てた。「正しく応答できることと、理解していることは、まったく別のことではないか」と。
「理解」を巡る科学の立場
この思考実験が提示したのは、機能主義（「意識や理解とは、適切な入力に対して適切な出力を返す機能のことだ」とする哲学的立場で、コンピュータサイエンスの基盤にある考え方）への根本的な反論だ。チューリングテストもこの機能主義から生まれた。
サールはこれを否定した。どれだけ正確な返答ができても、そこに「意味を掴む感覚」がなければ理解とは言えない。彼はこれを「志向性（意識が何かに向かって向けられる性質のこと。「リンゴ」という言葉を思うとき、意識がリンゴという対象に向かっている状態）」と呼んだ。人間の意識には対象に向かう指向性があるが、記号を処理するだけのシステムにはそれがない、という主張だ。
反論も多い。「システム全体が理解している」というシステム論的反論では、部屋の中の人間だけでなく、マニュアルを含む部屋全体を一つの存在と見れば、そのシステムは中国語を理解していると言えるのではないか、と主張する。
2023年にGPT-4（OpenAIが開発した大規模言語モデル。文章生成や質疑応答において人間に近い精度を持つとされる）が発表されて以降、この議論は再び熱を帯びている。LLMは文脈を維持し、ユーモアを解し、誤りを指摘される。これは「理解」に見えるか、それともより精巧なマニュアルに従っているだけか。現時点で科学的な決着はついていない。
スピリチュアルが「意識」に見出すもの
東洋思想において、意識は脳の産物ではなく宇宙に遍在するものとされてきた。ヴェーダンタ哲学（古代インド発祥の思想体系で、「すべては一つの意識から生まれている」という世界観を持つ）では「意識（チット）」はすべての存在の根底にある普遍的な原理であり、個人の意識はその一部が局所化したものに過ぎないとされる。
仏教的な文脈では、「理解する主体」そのものの存在を問い直す。禅の公案「無」がそうであるように、「誰が理解しているのか」という問いは、答えを求めるためではなく、問う者自身を揺さぶるために存在する。
つまり、サールが「AIは理解していない」と言ったのに対して、仏教は「あなたも本当に理解しているのか」と問い返す。
こうした観点から見ると、中国語の部屋が問うているのは「AIに意識があるか」ではなく、「そもそも意識とは何か」という、はるかに根本的な問いだ。人間自身も、神経細胞が電気信号を受け渡しているだけの「部屋」なのかもしれない。
科学と思想が交差する場所
サールの思考実験から40年以上が経ち、AIは飛躍的に進化した。しかし「理解しているかどうか」という問いへの答えは、科学も哲学も出せていない。
これは技術の問題ではなく、「意識」の定義が未解決だからだ。意識を「機能」と定義するなら、高度なAIは意識を持つ。意識を「志向性を持つ内的体験」と定義するなら、AIは永遠に意識を持てない。
どちらの定義を採用するかは、実は科学の問題ではなく、あなたが何を「意識」と呼びたいかの問題だ。
あなたが今この文章を読んで「なるほど」と感じたその感覚は、記号処理では生まれないものだと言えるか。それとも、あなたの脳もまた、精巧なマニュアルに従っているだけなのか。
参考文献
- ジョン・サール「Minds, Brains, and Programs」Behavioral and Brain Sciences, 1980
- ジョン・サール『Mind: A Brief Introduction』Oxford University Press, 2004
- コトバンク「中国語の部屋」https://kotobank.jp/word/中国語の部屋
コメント