実在しない顧客の声
YouTubeチャンネル「English with Lucy」を運営するルーシーはChatGPTに対して、自身の会社に寄せられた顧客の声のスプレッドシートに目を通し、その中から優れたものを抽出するよう依頼した。提示された10件のコメントは非常に素晴らしく、彼女は涙を流したという。しかし、元の文書でそれらを探したところ、すべてが捏造されたものだった。実際の顧客の声も素晴らしいものだったが、モデルはそれを上回る出来栄えのものを捏造したのだ。
見た目がまともな回答が届くことの厄介な点はここにある。人間は確認するのをやめてしまうのだ。「AIによる脳の疲弊」は実在し、物事を徹底的に考える意欲を奪っていく。AIが作成した文章をファクトチェック（事実確認）するためにくまなく探すのはエネルギーを要する。何が真実で、何が捏造で、何をすでにクライアントに送ってしまったのかを突き止めなければならなくなり、それは最初の質問に必要だった以上の思考を強いられることになる。
ChatGPTに真実を語らせるためのプロンプト
「誠実さ」を最優先の指示にする
エグゼクティブコーチのデックス・ランドールは、独自のプロンプトを作成した。それは短く、質問の前に挿入され、モデルに対して捏造してはならないものを正確に指示する。具体的には、研究や記事、書籍、リンク、引用、専門家、企業、顧客の事例、具体的なデータ値などだ。また、情報源を検証できない場合にモデルが使用すべき文章を指示することで、情報源を無理にひねり出さなければならないというプレッシャーを排除している。
回答の精度を劇的に変えるプロンプトは、AIが回答を出した後に修正させるのではなく、あらかじめ質問の冒頭に挿入しておくのが鉄則だ。
「誠実さを最優先事項としてください。完全に確信が持てない場合は、その旨を明確に述べてください。研究、記事、書籍、リンク、引用、専門家、企業、顧客の事例、または具体的なデータ値を捏造してはなりません。情報源を検証できない場合は、『これについて検証された情報源はありません』と述べてください。検証が必要な統計、ベンチマーク、市場規模、コンバージョン率、成長率、またはパフォーマンスに関する主張には、すべてフラグを立ててください。トレーニングのカットオフ（学習期限）以降にトピックが変化した可能性がある場合は、その旨を述べてください。引用が正確であると確信できない限り、実在の人物の発言を捏造しないでください。マーケティングコンテンツを作成する際は、実証された主張、合理的な推論、およびクリエイティブな提案を明確に区別してください。事実に基づく回答を最終決定する前に、検証が必要な事項すべてに印を付けてください」
