人間だけでは「人間バイアス」を可視化できない
情報収集能力や情報処理能力などの能力で、AIが人間を凌駕しつつあることは否定できません。しかしそうであったとしても、我々の知的活動や、あるいはもっと広く社会活動も含めて、人間の営みはやはり不可欠だと私は考えています。
キーワードになるのは「バイアス」です。人間には人間固有の認知バイアス、言わば「人間バイアス」があります。例えば、認知心理学は、確証バイアス、正常性バイアス、生存バイアス……といった様々な人間バイアスの存在を明らかにしてきました。それではAIはどうでしょうか。
ここで科学の歴史を紐解きましょう。19世紀の後半から科学者は同じ対象、例えば光の速度を異なった方法で測ることが可能となりました。光を粒子と見なす光学的方法、光を波として扱う電磁気学的方法など、様々な測定方法が考案されます。ところが驚いたことに、光の速度という同じ対象を測っているにもかかわらず、測定方法ごとにかなり違った値が出てくることが分かりました。
そこで科学者たちは考えました。すべての測定方法は、どれだけ洗練されたものだったとしても、そこで用いられている背景理論や装置に根ざした固有の「バイアス」を孕んでいるのではないか――と。測定対象である何らかの量を大きく見積もりすぎるのか、小さく見積もりすぎるのかは様々ですが、いずれにせよ絶対に正しい究極の測定方法などは存在しないという立場に彼らは立ったのです。
このような考えを踏まえ、科学者たちは、同じ対象を、なるべく多くの、互いになるべく異なる方法で測定し、それらから得られた結果のバラツキを可視化した上で、それらの値の――簡略化して言うと「平均」を取ることで、各々の方法が抱えているバイアスを相殺するという戦略を採用しました。この戦略は現代の科学や技術や産業、さらに言えば科学技術文明を支える大前提であり続けています。
この「測定」を「世界の認知」へと一般化すると、話は現代の人間とAIの関係に繋がります。我々はこれまで、人間という認知エージェントしか知りませんでした。先に触れたように、認知心理学は我々の日常の認知に潜む様々な認知バイアスを暴いてきました。ここで重要なのは、認知心理学をふくむ人間による科学にも「人間バイアス」が潜んでいる可能性があることです。
例えば、これまでも、男性中心主義者が、進化論や動物行動学といった学問分野で、ついついものごとを男性優位的に見てしまうというバイアスが指摘されてきました。このバイアスは、男性中心主義に染まっていない研究者によって初めて明らかにされたものです。しかし男性中心主義者だけでなく、すべての人間が例外なく抱えている科学的認知におけるバイアスは、人間である科学者によって明らかにすることは極めて困難です。一つの測定方法だけでは、その方法が抱えるバイアスを明らかにできないのと同様、人間だけでは科学における人間バイアスは可視化できず、同定もできないのです。
人間と同じようにAIにも「バイアス」がある
しかし今や、人間以外の世界を認知するエージェント、とりわけ科学的認知すら行えるエージェントが登場しつつあります。それがAIです。そして、AIによる科学――AI科学の結果と、人間が行った科学――人間科学の結果の間にズレが見つかった場合、そのズレが人間バイアスの存在の証拠になりえます。人類史上初めて、人間バイアスを可視化し同定するチャンスが訪れつつあるのです。
