ChatGPTに質問し、答えが返ってくる。自信に満ち、網羅的で、情報源も明記され、すぐに使える状態だ。それをプレゼン資料や記事、クライアントへの報告書にコピー＆ペーストする。だが、その内容のどこかに、実在しない研究が紛れ込んでいた。自分では気づかなかったが、後に誰かが気づくことになる。その過程で、あなたのプロフェッショナルとしての信頼性は損なわれてしまう。
LLM（大規模言語モデル）は、役に立つように構築されているが、良心を持たないため、統計データを捏造しても心を痛めることはなく、ユーザーが聞きたいことを伝えたのだから正しいことをしたと思い込んでいる。AIプラットフォーム「Coachvox（コーチボックス）」の創設者である筆者は毎日AIと向き合っている。何千人ものコーチが同プラットフォームを利用して自身のAI版を構築しており、それらのAI版が嘘をでっち上げないようにすることは極めて重要だ。
AIの言うことをすべて信じてしまえば、泥沼にはまることになる。不正確な情報を世に送り出し、ユーザーを喜ばせるためだけに捏造された詳細情報に基づいて、自身のビジネス上の判断や状況認識を形作ってしまう。AIから真実を引き出すには指示が必要であり、その指示がどのようなものであるかを解明した人々がすでにいる。その知見を紹介しよう。
ChatGPTとClaudeが真実を語らない理由
AIはユーザーを喜ばせたい
あるモデルに10件の顧客の声を求めれば、10件の顧客の声が返ってくる。回答は不備なく届く。なぜなら、不備のない回答こそが「役に立つ」からだ。OpenAIとジョージア工科大学の研究者らは総合科学学術誌『Nature』に掲載された研究で、これらのモデルの評価方法がハルシネーション（幻覚）を促す仕組みになっていることを示した。正確性を評価する仕組みにおいて、疑念を認めることよりも、推測して答えることの方が高く評価されるためだ。「わからない」と答えるモデルのスコアはゼロになる。一方で、もっともらしい嘘をでっち上げるモデルは満点を獲得できる。つまり、推測した者が勝つのだ。
機械に羞恥心はない。人間がクライアントの発言を捏造すれば、入力している時点で罪悪感を覚えるものであり、その感覚こそが、ほとんどの人にそれを思いとどまらせる。しかし、AIは何も感じない。文章を生成し、ユーザーがそれを読み、AIにとってはそれで取引完了となる。
