しかし、このモバイルこそがAIにとって、プライバシーとセキュリティの真の戦場となるだろう。
Androidユーザーにとって、返信や文脈を生成するためにプライベートなメールメッセージを分析することは、GoogleメッセージのGeminiでも同様の可能性がある。この種の生成AIこそが、新しい「ハイブリッドAI」論争の核心に触れるものだ。どこまでの分析をローカルデバイスに制限し、どこまでを分析、保存、レビューのためにより強力なクラウドへ送信するべきかという問題だ。
Workspaceの有料ユーザーに対してグーグルは「WorkspaceのデータをGemini、検索、その他のシステムの基礎となる生成AIや大規模言語モデルのトレーニングや改善に使うことはありません」と述べている。
しかし、Googleメッセージ上のGeminiについては、ユーザーに「グーグルはGemini アプリとの会話、関連プロダクトの使用に関する情報、ユーザーの現在地に関する情報、およびユーザーのフィードバックを収集します。【略】品質の向上とプロダクトの改善(Geminiアプリで使用される生成機械学習モデルなど)のため、人間のレビュアーが Geminiアプリとの会話を確認し、注釈を付け、処理を行います」と伝えている。
これらのユーザーには「会話には機密情報を入力しないでください。また、レビュアーに見られたくないデータやグーグルのプロダクト、サービス、機械学習技術の向上に使用されたくないデータも入力しないでください」と太字で警告が出されている。