サービス

2023.07.14 07:45

米FTC、OpenAIを調査 ChatGPTの誤情報出力めぐり

遠藤宗生
902

T. Schneider / Shutterstock.com

米連邦取引委員会(FTC)は、OpenAIのチャットボット「ChatGPT」が、「風評被害」を引き起こす可能性がある誤情報を出力した疑惑を受け、同チャットボットが消費者にリスクをもたらす可能性をめぐる調査を開始した。米紙ワシントン・ポストが13日、報じた。

ワシントン・ポストが入手した文書によると、FTCはOpenAIが「不公正で欺瞞的なプライバシーやデータセキュリティの慣行に関与」している可能性や、「風評被害を含む消費者へのリスクに関連する」慣行に関与している可能性を調査している。

FTCはOpenAIに対し、AIが質問の答えを知らないときに誤った回答を捏造する「ハルシネーション(幻覚)」と呼ばれる現象の修正や、個人情報の漏えい防止に向け、どのようにモデルを改良しているかなど、自社製品を訓練するために使用しているデータの詳細を提供するよう求めている。また、同社製品とその宣伝方法に関する詳細や、新製品のリリースの際のポリシーや手順についての情報の提供も求めている。

FTCは一例として、OpenAIが2020年3月に公表した問題を挙げている。この問題では、プログラムの不具合により、一部のユーザーが、他のユーザーの支払い関連の情報やチャット履歴を閲覧可能になっていたとされる。FTCがOpenAIの消費者保護法違反を認定した場合、同社は罰金を科され、プライバシー保護とセキュリティの強化を命じられる可能性がある。

フォーブスはOpenAIにコメントを求めたが、返答はない。

ChatGPTはここ数カ月で人気が急上昇しているが、誤情報を生成することがあるとの批判にもさらされてきた。米ジョージア州のラジオ番組司会者マーク・ウォルターズは先月、自身が詐欺と横領で告訴されたという虚偽の訴訟の概要がChatGPTによって作成されたとして、OpenAIを名誉毀損で訴えた。ChatGPTはまた、カリフォルニア州の弁護士に対し、実在しないワシントン・ポストの記事からの引用として、ジョージ・ワシントン大学の教授が教え子のひとりにセクハラをしたとの誤情報を表示する問題も起こしている。

forbes.com 原文

翻訳=上西雄太・編集=遠藤宗生

タグ:

ForbesBrandVoice

人気記事