何もしなければ永遠にそこに「留まる」だけ
― Anthropic社を中心にAIに意識を持たせようとする試みが拡大しています。特に同社は社内にAIに意識をその哲学者を抱え、そうした傾向を加速させています。あなたはAIが意識を持つ可能性を強く批判していますが、その真意を教えてください。
チャン これは「理論的に意識を持つことが可能か」という、抽象的で哲学的な問いとは別の問題です。ソフトウェアが意識を持つ可能性や、意識あるソフトウェアを構築できる可能性については、私は否定しません。しかし、現実的な観点から言えば、現在私たちが手にしているLLM――多くの人が「AI」と聞いて思い浮かべるもの――は意識を持っていませんし、LLMのアーキテクチャに基づいて構築されたものが意識を持つこともあり得ません。LLMには、意識ある存在に必要な基本的要件がすべて欠けているからです。
人間以外の動物にも、人間と同様に意識があります。その意識体験の性質は人間の意識とは異なるかもしれませんが、動物と接したことのある人なら誰でも、彼らが間違いなく主観的な体験を持ち、痛みを感じ、目標を持ち、ある種の欲求を抱いていることに同意するでしょう。
では、意識を持つことの根拠となるものは何でしょうか？ その一つは、彼らが物理的な身体を持ち、現実世界に存在し、現実世界を認識するための感覚器官を持っていることです。さらに彼らが「生命システム」であるという点も重要です。
対照的に、既存のすべてのソフトウェア（LLMも同様です）は、何もしなければ永遠にそこに「留まる」だけです。LLMは、プロンプトを与えない限り何もしません。そのプログラムは単に静的な状態で永遠に留まるだけなのです。
つまり、あなたを「待っている」わけでも、何かを「考えている」わけでもない。何も「起きていない」のです。一方、意識ある存在であれば、「時間が経過している」という感覚を持ち、退屈したり、空腹を感じたり、何か行動を起こさなければならなかったりします。生命システムの一部として、「体内時計」が刻まれているからです。
一般的に意識があるとは見なされない生物、例えばカキ（牡蠣）でさえそうです。私たちはカキに意識があるとはあまり考えませんが、カキは活動しています。彼らは海水から栄養分を濾し取っており、もし海水から栄養分をすべて取り除いてしまえば、カキはやがて死んでしまうでしょう。つまり、カキはある程度環境に依存しており、環境の変化に反応します。また、カキは生物である以上、基本的な生理学的レベルで代謝を行っており、それはつまり時間の経過に対して反応する性質を持っていることを意味します。
LLMにはそうした要素が一切ありません。したがって、LLMはカキほどにも時間を認識していないのです。ですから、LLMが意識を持つことなど絶対にあり得ない。人々が、テキストを出力するものに対して意識を投影したくなってしまうというだけの話なのです。
もし、アーキテクチャは同じでもテキストを生成しないシステムであれば、そもそもこうした議論が持ち上がることもなかったでしょう。
