生成型AIの課題
しかし、すべての人がAIが主流になる準備ができていると確信しているわけではない。話をした何人かのエグゼクティブや創業者は、特に生成型AIがまだハルシネーション（事実とは異なる生成を行うこと）に悩まされていると言及しており、1人は残念な弁護士がGPT-4から得て裁判で使った架空の法的前例について言及し、その結果として彼が非難を受けていることを挙げた。他の人々は、AIシステムへの過度の依存は人間の専門知識を失うリスクがあると示唆し、またAI駆動のバイアスが企業の意思決定やコミュニケーションに混入するリスクがあると指摘した。そして、生成型AIを使用する企業に対してよく挙げられる追加のリスク要因は、モデルが著作権データに基づいて訓練された場合の法的問題だ。
オルタナティブソーシャルメディアネットワークMeWeの創業者であるマーク・ワインスタインは「AIは人間を大きく上回る知能を持つ道を進んでいるが、それはまた意図せずして頻繁に嘘をつく存在でもある」という。
これらは本当に問題なのだ。
セールスフォースもこれらの課題を認識しており、大規模な言語モデルはすべて100％倫理的かつ合法的に取得されたデータおよび企業自身のデータで訓練されていると何度も強調している。先週、シカゴで新製品と新機能の多くを発表したイベントの書き起こしを見ると、セールスフォースからの発言の中には「trust（信頼）」という言葉が28回登場している。そして社長であるフランクリンは、信頼と公平性を強調し、同社のEinstein GPTのことを「世界で最も信頼できるエンタープライズ向け生成型AI」と呼んでいる。
「AIの世界では、何よりもまず信頼という価値が重要なのです」と彼女はいう。「私たちの製品や従業員への信頼、そして常に正しいことをいっしょにやり遂げてくれるという信頼が大切なのです」
これは、顧客のデータを訓練の目的で混在させないことや、データマスキング（匿名化など）やゼロレテンション（機密情報を保持しないこと）のような解決策を採用して、各企業が自分たちの情報に対するコントロールを失わないこと、そして競争相手の成功に寄与しないようにすることなどにもおよぶ。
人間を排除しないこと
もう1つの重要なポイントは、人間を排除しないことだ。「最も重要なのは、人間がループの中にいて、フィードバックを与え、AIが学び続けるのを手助けすることです」とフランクリンはいう。「そしてそれは、信頼が最も重要なこの世界において、本当にとても重要なことなのです」
会社のプレゼンテーション全体でたびたび繰り返された2つのフレーズ「help you, not replace you（人を助ける、代わりになるのではない）」「edit and take credit（人が編集して最終成果物の権利を得る）」は、セールスフォースが生成型AIを人間の才能を置き換えるものではなく、それを拡張するツールとして見ていることを強調している。
これは多くの人に響くフレーズだろう。
自動化を提供するAxiomaticsの最高技術責任者であるデビッド・ブロッサードは「私たちはAIにすべての問題に対する最終的な決定を任せるべきではありません」という。「AIは従業員が既存のタスクをより速く実行し、テストし、確認することを助けることができます。とはいえ、最終的に、AIのアウトプットが正しく、企業のニーズに合っているかどうかを確認する責任は、依然として人間側にあるのです」
（forbes.com 原文）
