AIが人類に与える影響を徹底的に検証することは難しい。
現在の技術の波の急速さと、私たちが大きな変化の真っただ中にいるという現実がある。さらに、これほど強大な力を持つものの功罪を比較検討することの複雑さもある。
「AIの影響力が拡大するにつれ、ますます緊急性を増す問題がある：人工知能は恩恵なのか、それとも災いなのか」とScienceNewsTodayのムハンマド・トゥビンは書いている。「すべての技術と同様に、AIは約束と危険の両方をもたらす。人々の生活を強化し、解放し、豊かにする一方で、混乱を引き起こし、人々を置き換え、操作することもできる」
この混乱、置き換え、操作への恐れが、世界中で相当な不安を引き起こしている。「超知能の経済学」という記事の冒頭に掲載されている表情のような顔になるために、先月エコノミスト誌に掲載された記事全体を読む必要はない。しかし、約束と機会も存在する。開発者たちがするように、何らかのSWOT分析を設定して、物事を整理するカテゴリに分類することを私は推奨している（当社のエイドリアン・ブリッジウォーターによる同様の分析はこちら）。
テクノロジーについての対話
今月初めにイマジネーション・イン・アクションのスタンフォードイベントで行われたパネルディスカッションでは、この点について検討されている。
私はOpenAIのアンナ・マカンジュとスタンフォード大学教授のエリック・ブリニョルフソン氏と、私たちの環境を共有しながらも、その構造や起源は共有していない知性との人間の協働の未来についての彼らの経験と見解について話し合った。
両者とも初期のAIシステムができることに驚きを表明した。
ブリニョルフソン氏は、アイザック・アシモフにちなんでファウンデーション・テクノロジーズという会社を設立したこと、そしてAIを使って論文にコメントを書いたことについて語った。
「この経済論文についての素晴らしい詩を見たとき、それが私の『なるほど』の瞬間だった」と彼は後者の試みについて語った。「そして、これはとてもクールだと思った」
「私は8年間の政府勤務を終えたところで、決して技術者ではなかった」とマカンジュ氏は言った。「しかし、その時でさえ、これは信じられないと思った。それは一貫性があり、私の質問に答えてくれる」
彼女はまた、米国ホワイトハウスでの経験と、AIがCIAブリーフィングのようなものにどのように適用できるかについても語った。
AIとの継続的な取り組み
マカンジュ氏はその後、OpenAIでの彼女の仕事と、それがこれらすべてにどのように関係しているかについて議論した。
「OpenAIの使命は、AIが全人類に利益をもたらすことを確実にすることであり、これは非常に野心的なアプローチです」と彼女は述べ、教育を合理化するUNICEFのプログラムを例として挙げた。「UNICEFとの（プログラム）があり、世界中の多くの場所、特に接続性が低いかデジタルデバイスの普及率が低い場所でデジタルでアクセス可能な教科書を作成しています。彼らは10倍の速さで教科書を作成し、コストを10分の1に削減できるので、基本的にはこれらのコミュニティにサービスを提供している組織と協力しています。彼らをエンパワーし、彼らが協力している人々に本当にサービスを提供できるようにするにはどうすればよいでしょうか？」
機会の余剰
ブリニョルフソン氏は、AIのコストではなく、私が「機会の余剰」と呼ぶものについて詳しく説明した。
「AIからの多くの利益は、どのような形でも測定されていない」と彼は言った。「経済統計では、消費者余剰という概念があり、人々が実際に支払わなければならない金額に対してどれだけの価値を得ているかを示します。そして、あなたが支払うのがゼロの場合、その消費者余剰はかなり大きな数字になり得ることがわかります」
実際、彼はOpenAIの技術の消費者余剰を約1000億ドル、つまり決して小さな金額ではないと推定した。
「多くの無料の商品を生み出しているこれらのデジタル商品をすべて考慮に入れるために、経済統計を再考する必要があるでしょう」とブリニョルフソン氏は述べた。
彼は、混乱は一般的に「デメリット」のカテゴリに入ると指摘した。
「多くの職種が方向を変え、大幅に減少しているという新たなパターンが出現している」と彼は言った。「そして…つい最近発表されたレポートがあります。…過去1年間で、以前考えられていたよりも91万1000人少ない雇用が創出されました。彼らは雇用数に大幅な修正を加えました。…BLS（労働統計局）長官を解雇したにもかかわらず、雇用数にはまだ変更と修正があります」
焦りながら待つ
二人はまた、多くのビジネスリーダーが実際のAIの価値をビジネスプロセスに組み込めることを心待ちにしていることについて語り、新しいIT改善がすぐにビジネス会計に組み込まれないという、よく引用される「生産性のパラドックス」に言及した。
「利益がビジネス価値に変わらないことに対する多くの失望と増大する怒りがあります」とブリニョルフソン氏は言った。「しかし、あなたが言及したように、それは汎用技術では非常に一般的なパターンです。例えば電気…目を見張るような能力がありますが、それを実際にビジネス価値に変えるには、しばしばはるかに長い時間がかかります。…私は、今後10年の後半に…かなりの生産性向上が見られるかもしれないと思います。…議会予算局やその他の機関が今後3〜4年間で見られる生産性をどれだけ（大幅に）過小評価しているかについて、私は楽観的です。それは明らかに生活水準を大幅に向上させますが、同時に多くの混乱も引き起こします。そのため、私たちはそれに備える必要があります」
マカンジュ氏はユーザーの断絶について言及した。
「実際に研究を掘り下げると、多くの人がツールの使い方をまったく知らなかったことがわかります。彼らはただツールを与えられただけでした」と彼女は最近の採用測定実験について述べた。「どのように使用するか、またはこのワークフローにどのように統合するかについては何も言われませんでした」
一方で、彼女は臨床AIコパイロットプロジェクトが医療環境での診断を18%改善した例を提供した。
「私は、それを統合しようとしている大規模な組織でさえ、実際にそれらの利益を得るためにはそのワークフローがどのようなものになるかを理解することが目標だと思います」と彼女は言った。「もし一つの分野で、それが信じられないほど変革的で、変革的にポジティブになると感じるなら、それは医療です」
人間のようにしないで
ビデオには、イノベーション、経済、そしてアラン・チューリング、マーヴィン・ミンスキー、ジョン・マッカーシーのような過去の人物についてのさらに多くの内容がある。
しかし、私はセグメントの終わり近くで話し合ったいくつかのポイントに焦点を当てたいと思う。そこでブリニョルフソン氏は、「代替人間」を作ろうとしたり、彼が言うところの「模倣AI」を作ろうとするのではなく、LLMとAIシステムの特定の強みにもっと注目すべきだとコミュニティに提案した。
「自動化に焦点が当てられすぎていると思います」と彼は言った。「これまでに行われたことのない新しいことは何ができるでしょうか？」
彼は模倣ロボットを作ることの危険性をこのようにまとめた：
「人間を完璧に模倣する機械を作る」とブリニョルフソン氏は言った。「経済学者の観点からすると、それは補完ではなく代替物であり、（拡張的な）認知ではありません。（代替物は）何をするのでしょうか？競争相手の価格を下げます。それは賃金の低下、富と権力のより大きな集中につながる傾向があります。…私たちのほとんどにとって、それは私たちが望む世界ではありません。人間があまり役割を持たず、機械がすべての科学的発見を行うことができる世界です」
3つの質問
これに続いて、セグメントは両パネリストへの3つの鋭い質問で締めくくられた。最初の質問は：彼らを夜も眠れなくさせるものは何か？
ブリニョルフソン氏とマカンジュ氏は、権威主義的政府がこれらのツールを不適切に使用することについての懸念を共有した。
「私はロシア出身です」とマカンジュ氏は言った。「多くの友人が刑務所にいるか、帰国できない状況にあり、私の頭の中では、ロシア政府が現在の抑圧のレベルをさらに拡大するために（AI）を使用する可能性のある多くのバージョンを構築しています。そして、これらのツールがすでに構築されていることを私たちは知っています」
「私はアナの、AIが富と権力を集中させるために使用されることへの懸念を共有しています」とブリニョルフソン氏は付け加えた。「（人工）知能は、フリードリヒ・ハイエクが『社会における知識の使用』というクラシックな論文を書いたときに書いたことの一部を覆したり、損なったりする可能性があります：非常に重要な知識は社会に広く分散しています。それは権力が社会に広く分散することにつながります。そして彼は、一つの組織がすべての情報と知識を一箇所に持つことは不可能だと言いました。そして彼は過去70年以上の間、確かに正しかったのです」
それは続くのだろうか？
「大規模なデータセンターが…すべての消費者の好み、サプライチェーンなどについて非常に詳細な情報を取得し、それを集約して、組織的で調整された決定を下すことがますます可能になっています」と彼は付け加えた。「それは非常に効率的かもしれませんが、同時にこの権力の集中につながります」
詳細はビデオをご覧ください。これらは、新しいAIが私たちの社会にどのように統合されるかを考える今、私たちが持つべき種類の会話です。
