メッセージアプリで通信される裸体の画像から子どもを守る
アップルが新たに提供するコミュニケーション・セーフティ・メッセージはiOS、iPadOS、macOSに標準搭載されている「メッセージ」アプリで使える、子どものプライバシー保護を目的とした機能だ。新しい機能はiCloudの「ファミリー共有」を有効にした上で、管理者になる親がオプトインした場合、子どものアカウント設定に対して任意に追加できる。デフォルトでは無効になっている。
iOSのファミリー共有機能を有効にする
コミュニケーション・セーフティを有効にすると、子どもがメッセージアプリ上で裸体が含まれる写真を送受信した際に、画像にぼかしを入れた上で、端末の画面上にアラートを表示する。アラートの内容は検知された画像がユーザーに心理的負担を与えるものであったり、性的搾取につながる内容を含む可能性があることについて警告をした上で、周囲の信頼できる人に助けを求めるように促す。最終的に端末のユーザーが同意すれば画像は表示される。
メッセージに添付された画像は機械学習処理により、裸体を含む内容の有無をメッセージの送受信が行われる際に都度、端末上で解析される。アップルによると、メッセージアプリの通信内容は通常のメッセージを送受信する場合と同じくエンド・ツー・エンドの暗号化が行われ、アップルが通信の内容をのぞき見ることはないという。またユーザーが裸を含む画像を送受信したことは、管理者である親を含むユーザー以外の他者に伝わることがないように、機能全体をユーザーのプライバシー保護を最優先するかたちで設計した。
AI解析により不審な画像コンテンツにぼかしがかけられる
