生成AIは「ツール」として捉えるべき
― あなたはこれまで、多作なSF作家というわけではありませんでしたが、最近は『ニューヨーカー』や『アトランティック』といった媒体でAIについて精力的に執筆されています。近年、テクノロジーにそれほど関心のない一般の人々の間でも、生成AIを夢中になって利用するケースが爆発的に増えています。彼らはAIの仕組みについて何ら知識を持っていないはずですが、現時点において、AIと人間の関係はどうあるべきだとお考えでしょうか。
チャン 現在の生成AIという技術は、一般的な「ツール」として捉えるべきであり、その用途は実際には非常に限られていると考えています。多くの人が見出している用途は、このプログラムの性質を誤解しているか、あるいは不適切な使い方と言っていいのではないでしょうか。
ウェブ検索の代わりとして使うことも推奨しません。多くの人が検索の代わりに使っていますが、AIがもたらす情報の信頼性を考えれば、そうすべきではないでしょう。医療的なアドバイスを得るという目的もセラピーに使うという目的も良いとは言えない。もちろん、恋愛のパートナーとして使う人も。つまり、この技術について「良い」用途を探そうとしても、ほとんど見当たらないのです。そもそも、良い使い道などあるのか、その問いに答えようとすると、生成AIというものが「知的財産の盗用」の上に成り立っているという事実に直面せざるを得ません。
AIが知的財産を学習するのはタダではありません。データワーカーやデータラベラー(機械学習させるためのデータを作成するシステム)といった人々の労働搾取に依存していますし、エネルギー消費も非常に激しいのです。知的財産の盗用や労働者の搾取の上に成り立っているといった点を踏まえれば、生成AIを利用することが本当に妥当なことなのか、という疑問が残ります。
多くの人は、そうした点こそが、倫理的な人間が利用すべきではない理由になると考えるでしょう。言ってしまえば、“盗品”を購入することが（たとえ品質が良くても）賢明な判断ではないのと同様、と考えることができるのです。
つまり、人々が生成AIを利用することは、誰かが持ってきた盗品を利用しようとしているようなものであり、しかもその品物は極めて低品質、つまり「ひどい代物」と言ってもいい。仮に他の類似技術よりも生成AIの方がより良く、有益な結果をもたらす用途があったとしても、盗品を利用するのに近いことをしているのです。
ですから、たとえこの技術がうまく機能する用途を見つけられたとしても、倫理的な観点からは利用すべきではない――概して、私はそのように考えています。
