ChatGPTの不具合発見者に最大270万円の報償金

ChatGPTは、大学レベルのエッセイや詩の執筆、コンピュータコードの作成、食事の計画や予算の作成などに使用され、しばしば人間のような精度をほこるが、質問に対する回答が正しくない、矛盾しているなどの問題も確認されている。また、ChatGPTが公開されて以来、ユーザーは、ヘイトスピーチや犯罪のやり方の詳細など、有害な活動を防ぐために組み込まれた制限を巧みに回避しようとする「脱獄」を試み、製品の限界に挑んでいる。ワシントン大学のコンピュータサイエンス専攻の学生で、脱獄プロンプトのウェブサイトを作成したアレックス・アルバートは、先月Twitter（ツイッター）でChatGPTの脆弱性について説明し、OpenAI会長のグレッグ・ブロックマンにバグバウンティプログラムを検討させるに至った。

一部の専門家は、AI製品は一見正しいような誤報が本物であると人々を騙すリスクを高め、最終的には従業員の代わりの労働力になり、学生の試験カンニングを手助けする可能性があると警告している。ツイッターのイーロン・マスクやApple（アップル）の共同創業者であるスティーブ・ウォズニアックなどのテック幹部は、AIの台頭を批判し、リスクを徹底的に評価できるよう、開発者にAIへの取り組みをただちに一時停止するよう呼びかけた。1000人以上の署名を集めたオープンレターの中で、テックリーダーたちは、開発者たちがより高度で強力なシステムを作るために「制御不能な競争」をしていると主張している。

OpenAIのバグバウンティプログラムは、この種のものとしては初めてではない。 Amazon（アマゾン）、AT&T、Bumble（バンブル）、Buzzfeed（バズフィード）、Chime（チャイム）、Coinbase（コインベース）、Google Chrome（クローム）など、他の企業も自社のシステムの不具合を発見した人に報酬を提供している。

バイデン政権は、ChatGPTやGoogleのBardAI（バードAI）を含むAIシステムに対する規制を検討しているが、まだ具体的なものは示していない。米国商務省は11日、AI対策の導入方法について政策立案者に協力を求める意見公募を行った。

（forbes.com 原文）