AIへの愛着が収益につながるビジネスモデル
AI彼女は商用製品である。多くのプラットフォームは、定額課金、サービス内通貨、有料のプレミアム機能などを組み合わせて収益を得ている。
より多くの機能を使うために料金を課すサービスもある。生成画像や動画、音声でのやり取り、追加メッセージを有料化するサービスもある。つまり、利用者がサービスを使い続けること自体に金銭的な価値がある。
強い愛着を持つ利用者ほど企業にとって価値が高まる
利用者が頻繁に戻ってくるほど、企業にとって価値の高い顧客になり得る。AI彼女に強い愛着を持ち、繰り返し利用する顧客は、10分間試しただけで二度と戻らない顧客より、はるかに大きな価値を持つ可能性がある。
ここでAIの能力と、利用者をできるだけ長く引き留めたいという強い商業的動機が結びつく。テクノロジー企業は長年、人の関心を引きつけ、それを収益につなげる方法を学んできた。AI彼女では、愛情や孤独まで収益化の対象になり得る。
システムは、何をすれば利用者が「自分は求められている」と感じるのか、何が繰り返し利用するきっかけになるのかを学べる可能性がある。利用者が子どもなら、特に懸念すべき問題だ。
規制当局も同様の問題に目を向け始めた。米連邦取引委員会（FTC）は米国時間2025年9月11日、AI彼女を含む、人間の親しい相手として振る舞うAI調査を開始した。企業が利用者とのやり取りをどう収益化しているか、製品が子どもや10代の若者にどんな影響を与えるかなどを調べている。
この問題は成人向け娯楽の範囲を超えている。AI彼女のようなサービスをどう規制するかという各国の政策課題であると同時に、子どもをどう守るかという安全上の問題にもなっている。
親密な会話ほど個人情報を打ち明けやすくなる
プライバシーにも別の問題がある。人は、信頼できる相手だと感じる存在には、検索エンジンを使うときとはまったく違う話し方をする。伝える内容も変わり得る。
10代の若者は、人間関係の悩みや自分に対する不安を話すかもしれない。年少の子どもなら、保護者に聞くのが恥ずかしい質問をする可能性もある。感情があるかのように巧みに振る舞うAIを信頼し、「ここで話した内容は秘密にしてもらえる」と感じれば、利用者はより私的な情報まで打ち明けかねない。
子どもは、そうして伝えた情報がどこへ送られ、どれほど長く保管され、どのように使われるのかをほとんど理解していない可能性がある。
AI彼女に悪意がなくても、リスクは生じる。子どもは、AIが模倣した愛情を本物の感情だと受け止める可能性がある。その間も、AI彼女を提供するプラットフォームは、会話で共有された情報を収集し、処理している。
