「間違いゼロ」を求めるべきでない
勝間：
AIは基本的に、確率計算で答えを作っています。質問の意味を人間と同じように理解して、正解を知っているわけではありません。入力された言葉に近い情報を集め、もっともらしい順番に並べているんです。
ですから、間違ったことを言うのは、特殊な事故ではありません。私は、自分向けにかなりパーソナライズされたAIでも、回答の5％から10％くらいは間違いというつもりで扱っています。これは正確な統計ではなく、私なりの「安全率」です。あらかじめ、どこかに間違いが含まれている回答として読むのです。
性能が上がれば、間違いは少なくなるでしょう。でも、ゼロになることを期待するのは違うと思います。最初から正解だと思って受け取らなければいいんですよ。
〈勝間氏はある時、AIに「確認できないことは答えないで」と指示したことがある。すると、AIはほとんど何も答えなくなってしまったという。〉
勝間：
考えてみれば当たり前ですよね。AIは、正しさを保証できる情報だけを検索して答えているわけではありません。確率で答えを作っているのですから、「絶対に間違えるな」と言われたら、何も言えなくなってしまいます。
正確な事実を知りたいなら、最後は自分で確認すればいいんです。店が本当にあるのか、営業時間が正しいのか、本や論文が実在するのか。必要なところは公式サイトなどで調べ直す。
AIに求めべきは、間違いのない正解ではありません。自分だけでは思いつかなかった可能性や、考えるための材料を出してもらうことです。
「正解」ではなく「材料」として受け取る
〈勝間氏の車のナビがうまく動かなくなったときのことだ。解決方法をGeminiに相談すると、ナビ画面にあるメニューを開き、設定を変更するように案内された。しかし、実際の画面には、そのメニューは存在しなかった。〉
勝間：
AIは、存在しないメニューを平気で案内してくるんですよ。でも私は、そこで『そんな メニューはない』とAIに言って終わらせるにではなく、AIがこの操作で「何をさせようとしているのか」を考えました。
