この点で注目すべきは、グーグル自身が昨年10月に発表した「Googleメッセージの新しい保護機能」だ。AIによるフィルタリングと高度なセキュリティで、「1カ月に20億件の不審メッセージ」からユーザーを保護するとされている。とりわけ重要なのは、オンデバイスの機械学習モデルでスパムを分類し、ユーザーがスパム報告をしない限りコンテンツをグーグルに送信しない点だ。
Androidのセキュリティ強化を専門とするGrapheneOSは、この機能を支えるAndroid System SafetyCoreアプリの潜在的な力を指摘している。「このアプリは、クライアント側でコンテンツをスキャンしてグーグルなどに報告するためのものではなく、端末上でスパムや詐欺、マルウェアなどを分類する機械学習モデルを提供する。アプリはコンテンツをクラウドと共有することなくローカルで検知し、ユーザーに警告を表示できる」という。
「オープンソースではなく、Android Open Source Projectの一部でもない上、モデルも非公開なのは残念だが、このアプローチは複数のメールプラットフォームで採用可能であり、新しいUIと、特定の地域やドメインを制限する承諾ベースの仕組みなどと組み合わせれば、受信箱への不正アクセスを大幅に防げる」はずだ。
従来のクライアント側スキャン（端末でコンテンツをチェックしサーバーに報告する方式）と違い、プライバシーを強化するローカルスクリーニングは大きな転換点になり得る。実際、The Hacker Newsによると、グーグルは「導入されたAndroid System SafetyCoreは『クライアント側スキャン』を行わない」と改めて説明している。
グーグルの広報担当者は、Androidはユーザーのプライバシーを保護しつつマルウェアやスパム、詐欺などをオンデバイスで防ぐ機能を備えていると述べ、「SafetyCoreはAndroid 9以降の端末で利用できる新しいシステムサービスであり、不要なコンテンツの検出を安全かつプライベートに行うオンデバイス環境を提供します。ユーザーが機能を有効化しない限り特定のコンテンツの分類を行いません」と説明しているという。
GrapheneOSも「Googleメッセージはこの新アプリを使ってメッセージをスパム、マルウェア、ヌード画像などと分類しています。ヌード画像検出はオプションで、検出された画像はぼかされ、表示にはダイアログを通す必要があります。こうした分類はローカルAIモデルで行い、一般的にはコンテンツをサーバーに送信してリモートで判定するわけではありません。既存のクライアント側またはサーバー側検出とは異なり、違法コンテンツを検出して通報する仕組みではないので、プライバシーを侵害したり誤検出するリスクが大きくなるわけではありません」と述べている。
