ChatGPTを利用する際に注意すべきリスク
昨今の生成AIのブームを受けて、ブランドや小売企業はChatGPTや同様のソリューションを早急に導入する必要があるかもしれません。しかし、導入にはメリットだけでなく以下に示すようなリスクも認識したうえで、総合的に生成AIを理解する必要があるでしょう。advertisement
・ChatGPTは100％正確ではなく、時には「ハルシネーション（幻覚）」（現実的でない内容や、提示されたプロンプトの文脈にそぐわない内容を生成すること）を起こすことがあります。そのため、企業は、事実確認、修正、編集を行う人間を一連の流れの中に配置する必要があります。
・ChatGPTは現在、どのようなソースからどのように情報を集約しているのか、透明性に欠けます。信頼できる筋からの情報であることを確認するためには、人間の介在が必要です。
・企業は、AIを使ってコンテンツを作成する際、消費者や読者に対して透明性を示す必要があります。ウェブツールサイトTooltesterが2023年2月に実施した調査によると、10人に7人以上（71.3%）の米国消費者が、事前に知らされずにAIが作成したコンテンツを提供された場合、ブランドへの信頼度が下がると回答しています。
advertisement
・Salesforceが実施した500人以上のシニアITリーダーを対象とした2023年2月の調査では、71％の経営者が、生成AIが自社のデータに「新たなセキュリティリスクをもたらす」と考えていることがわかりました。機密情報の漏洩の可能性などのこうしたリスクを軽減するためには、従業員がChatGPTをどのように使用しているかを可視化する必要があります。2023年4月上旬、韓国のコングロマリットであるSamsungでは、ChatGPTに半導体関連情報を読み込ませて機密情報が流出する事態が発生しました。Amazon、JP Morgan、IKEA、Verizon、Walmartが示した例にならい、Samsungは現在、従業員がChatGPTに機密情報、秘密情報、専有情報を入力しないためのガイドラインを制定しています。
・生成AIは、フィッシングや詐欺などのサイバー攻撃につながるプログラミングコードを簡単に生成することができます。そのため、ブランドや小売企業は、セキュリティシステムやソフトウェアを常に更新およびアップグレードすることで、こうした攻撃に対する警戒を強化する必要があります。
高度な生成AI技術の開発と利用をめぐる懸念は、ハイテク業界でますます高まっています。
Elon Musk氏や他の技術リーダーたちが署名した非営利団体であるFuture of Life Institute（生命の未来研究所）の最近の公開書簡では、現代のAIがもたらす影響やそれに関連したリスク管理に対する懸念から、AIの研究所に対して「GPT-4より強力なAIシステムのテストを少なくとも6カ月間は直ちに一時停止する」ように提言しています。
書簡には、「AIの研究開発は、今日の強力な最先端システムをより正確かつ安全で、解釈可能で、透明性のある、強固で、整合性があり、信頼でき、忠実なものにすることに焦点を合わせ直すべきである」と書かれています。
ブランドや小売企業は、ChatGPTや同様のツールを積極的にテストし、生成されるコンテンツが正確かつ適切であることを確認する必要があります。さらには、機密データの漏洩やサイバー攻撃の可能性を最小限に抑えるための予防策を確実に講じる必要があるでしょう。
