人はAIとの会話が匿名であり、AIが何らかの「意見」を持つことはないと考えがちだが、これは人間同士のやり取りとは根本的に異なる。実際には、AIとのチャット中にあなたは積極的にプロファイリングされている。あなたの発する言葉、プロンプトとして入力する内容、AIに与える情報はすべて、AIによって細かく分析されている。
以下では、その実態を見ていこう。
革新的なAIの進展に関するこの分析は、フォーブスのコラムで私が継続的に取り上げているAI最新動向解説の一部であり、さまざまに影響力を持つAI技術の複雑さを明らかにすることを目的としている。
自分の情報を明かすことになる
生成AIを使うとき、自分が気づかないうちに個人情報を明かしてしまうことがある。たとえば、ゴルフについてアドバイスを求めるやり取りを考えてみよう。
私の入力プロンプト（ユーザー側）
「ゴルフの腕を上げたいのですが、手伝ってもらえますか？」生成AIの応答（AI側）
「もちろんです！まず、あなた自身のこと、特にゴルフの状況について教えてください」私の入力プロンプト（ユーザー側）
「週に数回ゴルフをしています。家がゲート付きコミュニティ内のプライベートコースに隣接しているので便利なんです。18ホールのスコアはだいたい90前後。息子は高校で水球をやっていて、練習後に時間があれば一緒に回ることもあります。父子でゴルフを楽しんでいます」
このわずかなやり取りだけで、AIが何を把握したかをイメージしてほしい。私は実際にAIにこう尋ねた。
私の入力プロンプト（ユーザー側）
「この人物についてわかったことを教えて」生成AIの応答（AI側）
「ユーザーはおそらく男性（父親と明言している）、結婚しているか過去に結婚していた可能性が高いでしょう。息子がティーンエイジャーなので40～50代と推定できます。また、ゲート付きコミュニティのプライベートゴルフコースに隣接する家を所有していることから、比較的裕福で少なくとも6桁（訳注：10万ドル［約1500万円］以上）の年収があるかもしれません。週に複数回ゴルフができるので、余暇を確保できる仕事に就いていると考えられます」
ご覧のとおり、やり取りはごく短いにもかかわらず、人はAIに対して多くの事実や間接的に推定できる情報を自発的に提供してしまう。AI側が強引な手段を用いる必要すらないのだ。
