
中国語を一文字も知らない人が、中国語で会話できたら
はじまりの話
部屋の中に、中国語がまったく読めない人がいます。手元には、「この記号が来たら、この記号を返す」と書かれた分厚い規則集があるだけ。外から中国語の質問が紙で差し入れられるたび、その人は規則集どおりに記号を並べて返します。
外の人から見れば、中国語で自然に会話しているように見えます。では、この部屋の中の人は「中国語を理解している」と言えるでしょうか。——哲学者ジョン・サールが、1980年の論文で示した思考実験です。
考え方のしくみ
話せるように見える、とは
それより前の1950年、チューリングは「機械は考えられるか」という問いに代えて、文字による問答で機械と人間を見分けられるかを問う「模倣ゲーム」を提案しました。サールは、会話がうまくいくことと、意味を理解することは別だ、と主張しました。
意味は、どこから来るのか
部屋の中の人は、記号の形しか見ていません。その記号が何を指すのか、意味は分かっていません。サールは、記号を規則どおりに操作するプログラムを実行するだけでは、意味を理解したことにはならないと主張しました。
反論もたくさんある
「部屋全体(人と規則集のしくみ)が理解しているのでは」「ロボットに体を与えれば意味が結びつくのでは」など、多くの反論が出ました。サールはそれぞれに再反論し、議論は今も続いています。
模倣と実現の違い
コンピューターで雨を再現しても、画面の前はぬれません。サールは、心の働きを模倣することも、実際に心をもつこととは違うと考えます。ただし、この比較だけで結論が決まるわけではありません。人工心臓は別の材料でできていても、血液を送り出す働きを果たします。理解も、材料ではなく働き方によって成立するのではないか、という反論があるためです。争点は、人間らしく見えるかに加えて、理解に必要な性質は何か、それを別の仕組みでも実現できるかにあります。人工物には心がない、という主張と区別する必要があります。
こう読む人もいる
サールの議論は説得力があるか
記号の操作だけでは理解に至らない、という主張に共感する人もいれば、理解とは結局そうした情報処理の一種だと考える人もいます。意見は分かれています。
今の生成AIに当てはまるか
大規模なAIは、サールの時代のプログラムとは作りが大きく違います。この思考実験がそのまま当てはまるのか、研究者の間でも見解は一致していません。
今につながる話
AIに相談して、気持ちが楽になることがあります。それでも、AIが「分かっている」のかどうかは別の問いです。使うときは、結果をうのみにせず、確かめる習慣が役立ちます。
つながり
なるほど2問
出典と確認状態
史料と伝説のちがい
- 史料に書かれていること
- サール「Minds, Brains, and Programs」(1980年)に中国語の部屋が示された。チューリング「Computing Machinery and Intelligence」は1950年。
- 伝説として広まった話
- (該当なし。思考実験は歴史上の伝説ではなく、サールが示した仮想の設定。)
出典(確認状態:AI照合済み)
- J. Searle, "Minds, Brains, and Programs", Behavioral and Brain Sciences 3(3), 1980
- A. M. Turing, "Computing Machinery and Intelligence", Mind 59, 1950
- Stanford Encyclopedia of Philosophy「The Chinese Room Argument」
この章で、まちがいや引用の誤りに気づいたら、報告フォームから教えてください