古来変わらぬ“脳のアキレス腱”
新潮QUEのコンセプトは「問い」にあると聞きました。とても良いコンセプトだと思います。AI時代にこそ、問いを立てる力が求められていると、私も思います。
なぜなら、AIに依存する時代の副作用は人類が「批判的思考力」を失うことにあるからです。
AIの賢さは疑いようがありません。ChatGPTやClaudeに「第一次大戦が勃発した経緯を教えてほしい」と尋ねると、非常に詳細で完璧に見える要約が返ってきます。
かつてこれほどの知識量を束ね、それを瞬時にまとめられる能力を有していたのは「歴史学の教授」だけでした。現在は、AIがその役割を果たせるように見えるわけです。
ところが、全知全能に思えるAIにも欠陥があることを私たちは知っています。ひとつはハルシネーション。誤った前提から出発し、誤った前提に沿うような素材をAIが集めてくることがあります。
さらに、AIが人間に「好かれたがっている」ことも確かです。私たちがAIと会話すると、AIは「素晴らしい指摘ですね」「あなたはとても賢いです」などと、私たちの自尊心をくすぐります。
こうした明確な欠点を認識し、私たちが真理と呼ぶものに近づくためにも、「それは本当だろうか」「そもそも、論点はなんだろうか」と問いを立てることが重要になってくるわけです。
AIは全知全能の存在ではない、AIも間違えることはある、と私たちは直感的に感じるのに、なぜAIが合成した答えを鵜呑みにしてしまうのでしょうか。
その答えは、私たちの“脳のアキレス腱”に関係しています。
端的に言えば、人間は楽をするようにできているのです。生存競争が非常に激しかった時代の人類の脳を引き継いでいる私たちは、「できるだけコスパよく生きよう」としてしまいます。
食料も情報も不足していた古代の時代には、「食べられる時に食べる」「情報を知るべき時に知る」という態度が合理的で、残りの時間はエネルギーを保存して、楽をすることに意味があったわけです。
ところが現代には食料も、情報も、溢れている。この現代社会を生きていく上では食べたいときこそ我慢することが健康への近道であるのと同様に、情報を「吟味」することこそが、幸せに生きていくために必要になっています。
楽に「正解」を提示してくれるAIは、人間にそれを放棄させてしまうということです。
人間は“正しさ”よりも“もっともらしさ”に騙される
人間の脳が「楽をする」ことに強烈なインセンティブが働くこと以外に、AIの回答を鵜呑みにしてしまうもうひとつの大きな理由があります。
私たちは「もっともらしいもの」にすごく騙されやすいのです。もっともらしいものを構成する要素には、権威や洗練された文章といった外見的なものが挙げられます。
