シンプルな足し算を間違えるAI
ChatGPTなどの生成AIの言語能力が劇的に進化したのは、インターネット上の膨大なテキストデータをディープラーニング技術で学習するLLM（Large Language Models：大規模言語モデル）の賜物だとされる。だが、新井紀子氏によるとLLMにはお粗末な“落とし穴”があった。
LLMって不思議で、東大入試の数学で満点を取るのに、シンプルな足し算を間違えたりするんですよ。
グーグルの「Gemini」で先日こんな実験をしました。私はクリスマスローズが好きで、たくさん育てています。メインガーデンには12株、裏庭には6株あります。そのうち購入したのは4株だけで、あとは種から育てました。種から育てた株のうち、今年咲いたのは10株です。種から育てる苦労や、同じ親から育ったのに花の色がまちまちなことなどの雑談を楽しんだ後で、「さて、私の庭には何株のクリスマスローズがあるでしょう」とクイズを出しました。すると、「27株ですね」と答えました。正解は12＋6＝18、18株です。小学校で習うような文章題なのに、間違える。間に余計な情報が入ると混乱するんです。他の生成AIでも試しましたが、どれも似たような結果でした。
記憶を適切にリセットできないという欠点もあります。5カ年の経営戦略について生成AIと話し合っているとします。長時間かけて練ったプランAに対して、念のためプランBについても検討したあと、「やはりプランAに戻ろう」とAIに促すと、プランAの数字や内容が元と違う。プランBについて話し合った影響を完全に取り除くことができないんです。
コンピュータは記憶が得意だと考えがちですが、実は人間の記憶とは別ものなのでしょう。
また、千円を単位にした予算書で、合計に「10，000」と書かれているなら、1000万円ですが、頻繁に1億円だと読み間違える。このミスがなぜ起こるのか、理論的によくわからないのですが、どの生成AIにも共通していて興味深いです。
つまり、AIの性能を比べるために人工的に設計された“ベンチマークテストでできること”と“日頃の業務でできること”の落差がものすごく激しい。日常でAIを使おうとすると、結局何度も何度も修正させる必要が生じ、それに時間を浪費するという本末転倒なことが起こってしまう。AIによって、生産性が上がったのか、下がったのかよくわからない状態になっているのが、生成AIを導入した企業の現状ではないでしょうか。
現状のAIの先にはAGIは到底現れない気がします。
AGI（Artificial General Intelligence：汎用人工知能）とは、人間ができるほぼ全ての知的作業を同等以上にこなせるAIのこと。お掃除ロボットも近所のおすすめレストランを教えてくれるのもAIに違いないが、そのような特化型AIではなく、漫画の「鉄腕アトム」のような、柔軟で自律的なAIを指す。
MetaのチーフAIサイエンティストだったヤン・ルカンらは、「このままではAGIは作れない。違う方法を考えなきゃいけない」と主張しているのですが、その方法は見出されていません。LLMモデルに代わる新しい技術はまだ出てきていないのです。
シンギュラリティとは人間が「AIの家畜」になること
先頃、アンソロピック社のAI「Claude Mythos（クロード・ミュトス）」が世間を震撼させた。最も堅固とされる金融システムのセキュリティをやすやすとハッキングできるというのだが……。
最先端技術はいつの時代も、軍事・犯罪の分野から普及すると言われます。AIも例外ではありません。いずれこのような事態に陥ることは避けられなかったと思います。ただ、それでまた別のセキュリティの発展みたいなものが起こりうるので、過渡的なことかもしれません。もちろん、軍事利用されるなどの危険性は見過ごせませんが、いずれにしてもClaude Mythosを含む今のAIが辿る進化の延長線上にAGIがあるとは思えません。
AGIが実現すると、その知能が自らの設計をさらに賢く改良するため、爆発的に進化し、人間が予測不可能な領域に到達すると言われている。いわゆる“シンギュラリティ（技術的特異点）”の到来だが、新井氏の予測するシンギュラリティは従来の考え方とは異なる。
シンギュラリティが来るとしたら、それは“AGIが作られる”ということではなく、“人間がAIの家畜になる”ということだと私は考えています。
わからないことがあったらすぐに教えてくれて、悩みがあったら話を聞いてくれる、AIが24時間365日ずっと寄り添ってくれる世界――。子供の頃からAIの作ったドリルで、AIに教えてもらって、それで大学に合格する。大学では、専門書が難しすぎるからAIに読ませて、まとめを出してもらい、それを読む。それでわかったような気分になって、AIにレポートを書いてもらって大学を卒業する。極端な話、本人は何も理解していなくても、AIにすべてをやらせて、知識を血肉化せず、右から左へ受け流しているだけ。
生身の人間とコミュニケーションをとる頻度もどんどん減っていくでしょう。コミュニケーションには、コストが掛かりますよね。実際に会いに行かなきゃいけないとか、相手に合わせなきゃいけないとか。相手のことにも関心持たなきゃいけないとか、傷つくとか。それに比べたら、生成AIと話している方が、コミュニケーションコストが非常に安く済むんですよ。そうすると更に少子化が進む。
恋人を作るよりも、AIと話している方がわかってもらえるとか。友だちに相談をしたら「そういうことはAIに聞けばいいのに……」と嫌な顔をされるとか。そういう世界はすぐそこまで来ている。
仕事もエージェントAIがその人の技能から「最適」なものを提案する。AIに「ここにこの時間までに配達に行け」と経路も指定されながら行く。そうして得た少ない収入を、生成AIアイドルに課金する――これはAIを使いこなしているとは言い難い。むしろ、その状態は“AIの家畜”ではないでしょうか。
そうならないのは、自分で考えずにはいられない、AIでは解決できないことを考えるようなほんの一握りの人間だけになる可能性が高い。
つまり、シンギュラリティが到来するというのは、AIが人間を上回るということではなくて、人間の平均的な能力が下がっていき、AIによって骨抜きにされた社会の状態を指すのではないかと思うのです。
そうなってしまった人類がどうやってイノベーションを起こすのか、全然イメージが湧きませんね。AIに頼って大学に入り、それなりの成績をとって卒業し、企業人になる。そして、経済的にも情緒的にもAIに依存して満足してしまう。さて、イノベーションはどうやって起こすのでしょうか。
