【重要なお知らせ:当社を装った偽サイトにご注意ください】

AI

2025.02.16 13:00

AI進化のために、技術者からクリエイターまであらゆる人がその設計に関わるべき理由

Shutterstock.com

Shutterstock.com

多様性は強みであり、人工知能(AI)のデザインではとりわけ重要だ。法律からクリエイティブ分野まで、さまざまな専門的背景を持つ人々がAIのデザインと開発に関わる必要があるのはこのためだ。ところが、多様なメンバーがAIに取り組もうとすると、往々にして「混乱」が大きな障害になる。

スタンフォード大学のコンピュータサイエンス教授ジェームズ・ランディは、先のポッドキャストで包括的AIの重要性を提唱し、「AIシステムを包括的にデザインすることが、現在、最も重要です。人間中心の価値観なしにはAIは成功しません」と述べている(マッキンゼーのシニアパートナー、ラレイナ・イーとの対談より)。

スタンフォード大学ヒューマン・センタードAI研究所(HAI)の共同創設者で共同ディレクターでもあるランディは、人間中心のAIとはアプリケーションの問題だけにとどまらないと説明する。「AIシステムをどのように作り、デザインするのか、誰をその開発に参加させるのか、そしてAIシステムを創出し評価する過程で、いかに人間中心のプロセスを育むかも大切です」と彼は語っている。

AIの難しさは、予測不能性にある。パソコンのような従来の技術と異なり、AIシステムは確率論的に動作するため、「ある意味で信頼性が低い」とランディは指摘する。与えられたデータによって結果が変わるため、常に同じ入力から同じ出力が得られる決定論的なシステムとは異なる。そのため「AIシステムのデザインを、従来とは違う考え方で捉えなければなりません」と指摘する。

確率論的モデルにデータを投入すると、ニューラルネットワークの構造や学習過程によって結果が変わる可能性がある上、存在しない事柄をあたかも事実のように述べる「ハルシネーション(幻覚)」が起こることもある。「なぜこうした現象が起こるのか、まだ完全には解明されていません。そこにこそ、誰がこのモデルを作っているのかという問題が潜んでいます」とランディは注意を促している。

そのため、一度AIシステムが問題を起こすと管理がより難しくなる。ランディは「医療、教育、行政など、日常生活のあらゆる場面でAIが浸透するようになります。だからこそ、AIシステムをデザインする際の考え方を改める必要があるのです」と述べる。
次ページ > 混乱が必ずしも悪いわけではない

翻訳=酒匂寛

タグ:

advertisement

ForbesBrandVoice

人気記事