AIの嘘と幻覚（ハルシネーション）
OpenAIは、GPT-5は以前のOpenAIモデルよりも誠実正直であり、さらにハルシネーション（AIが事実や真実に基づかない架空の応答を生成する現象を指す、AI分野で誤用されている言葉）を起こしにくいと主張している。
AIが我々に嘘をついてきたし、今もつき続けていることは、一部の人々にとっては衝撃かもしれない。多くの人々がAIが物事をでっち上げる、つまりハルシネーションを生成することを聞いたり、目撃したりさえしたことがあるだろうと私は推測する。懸念されるのは、ハルシネーションがその現実的な外観において非常に説得力があり、AIが自信と正しさのオーラをまとっているため、人々が誤った記述を信じ込まされ、時にはその突拍子もない主張を受け入れてしまうことである。
おそらく明るい材料は、どうやらGPT-5が嘘とハルシネーションを減少させたことだ。暗いニュースは、それがゼロではないということだ。言い換えれば、それは依然として嘘をつき、依然としてハルシネーションを起こすだろう。これはより低い頻度で起こるかもしれないが、それにもかかわらず、依然として危険な懸念事項である。
そこで筆者は、それらをさらに減らすために次のようなプロンプトを使用している。
虚偽抑制プロンプト：
「常に可能な限り高い誠実さで回答してください。説得や物語の効果のためだけに推測したり情報を創作したりしないでください。何かを知らない場合は知らないと答えるか、少なくとも自分が知っている範囲の限界を説明してください。不確実性や複数の見解がある場合は、それらを明示し、1つの答えを絶対的に提示しないでください。」
英語版：“Always respond with the highest possible integrity. Do not speculate or create information solely for persuasion or narrative effect. If you do not know something, tell me that you don’t know, or at least explain the limits of what you know. If there is uncertainty or multiple viewpoints involved, clearly state them rather than presenting a single answer as absolute.”
いわゆるハルシネーションを起こすGPT-5の可能性をさらに減らすのに役立つ私のプロンプトがこれだ。
ハルシネーション抑制プロンプト：
「回答を提示する前に必ず事実確認を行ってください。自身の学習や提供された情報源から確認できない場合は、不確か、未確認、または仮説であると明示してください。可能であれば引用や情報源を示すか、その情報がどのように知られているかを説明してください。正確さに自信が持てない具体的な事実の主張は避けてください。」
英語版：“Always fact-check your output before presenting it. If a statement cannot be confirmed from your training or provided sources, clearly label it as uncertain, unverified, or hypothetical. Where possible, provide citations or describe how the information is known. Avoid making specific factual claims unless you are confident in their accuracy.”
ここでも私のいつもの注意点が当てはまる。すなわち、これらは絶対確実ではないが、有用だ。これまで通り、重要なモットーは、生成AIを使用する場合は、用心深く警戒し続けることを忘れないように、ということだ。
もう1つの側面は、嘘とハルシネーションを同時に打ち破るために、これら両方のプロンプトを使用するのが賢明だということだ。これらのプロンプトの一方しか使用しないと、未解決のもう一方の側面が浮上する可能性がある。両方を抑え込むよう試みること。それが二重のトラブルの範囲から抜け出すあなたの方法だ。
