当然ながら、大手コンサルや四大会計事務所には定評がある。特に規制の厳しい分野において信頼性が高く、高い基準を順守する企業という評判を業界内で築いてきたためだ。
AIによる低品質のコンテンツはそうした期待を一瞬で打ち砕く可能性がある。こうした一流企業でさえ低品質な成果物を作って数十万ドルもの報酬を得られるのなら、生成AIを使えば誰でも同様のものを作ったり、似た成果物を自分で再現したりできるのではないかと考えるからだ。
職場でAIによる低品質コンテンツを防ぐ方法
ここで疑問が生じる。AIの倫理的な利用、信頼、そしてAIの出力に対する透明性を維持することはどれほど難しいのだろうか。組織はどこに線を引くべきなのか。そして、人間とAIの協働はどの時点で破綻したのだろうか。
まず、今回の出来事から学べることが1つあるとすれば、どれほど大規模で評判の高い組織であっても、AIの低品質なコンテンツと無縁ではいられないということだ。どの企業でも起こり得る。
問題になるのは、このような恥ずかしい事態が起きないようにするための、人間が介入するチェックポイントが不十分な場合だ。また、人間が自らの判断力や推論力、品質管理、批判的思考力を使わない場合にも問題となる。
成果物がエンドユーザーに届く前に次の重要なチェックポイントをクリアし、業界特有の非常に明確な基準を満たさなければならない。
1. 人間ならではのアイデアや意見、ソートリーダーシップを使って最初の草稿を作成する。白紙の状態から始め、どこから手をつければよいか分からない場合に限ってAIが生成したアウトラインを使う。
2. AIを活用して報告書などの所定の形式に従ってコンテンツを作成する。
3. 引用や数値、主張、資料などを全て精査する。作業を効率化するため、別のAIシステムを使って出力を確認することもできる。重要度の高い案件については少なくとも2人の人間による確認を行う。1人は報告書の作成者、もう1人は上級リーダーだ。
4. 制作の各段階で反復と改良を重ねる。最初の出力で満足してはならない。
5. 人間による確認作業を繰り返す。2人の目でチェックし、倫理指針と組織のAI方針を順守する。
PwCが今回の失態について用いた弁明の1つは、各部門が遵守すべきAI品質管理プロセスが整備されていたというものだった。だが、企業の情報管理プラットフォームにただ存在するだけのAI方針と、日々の業務やワークフローの中で実際に積極的に適用されている方針との間には違いがある。机上の方針が実際に適用されなければ、企業を損失や評判の低下から守ることはできず、複数の指揮系統を容易に通り抜けて誰にも発見されない可能性がある。
