サードパーティによるアプリの対応
コミュニケーション・セーフティ・メッセージは北米で提供開始後、2022年には英国・カナダ・ニュージーランド・オーストラリア、フランス・ドイツ・イタリアとスペインへ対応地域を拡大した。今期は日本のほかオランダ、スウェーデン、ブラジル、韓国、ベルギーにも展開する。今回のグローバル展開にともない、日本を含む各地域でユーザーが利用することを想定して、画面に表示するメッセージの言葉づかいや児童保護に携わる関連当局との連携などローカライゼーションが図られた。管理者である親がコミュニケーション・セーフティの機能を有効に活用するために相談できる窓口も設けられるという。
アップルは2021年の8月に、ユーザーがiCloud写真のアーカイブに児童の性的搾取に関わる画像を保存していた場合に、これをAIにより検出するシステムの開発を発表した。その後、ユーザーのプライバシーを侵害する機能になり得るという懸念がアップルに多く寄せられたことから開発を中止。コミュニケーション・セーフティ・メッセージの機能へと「深化」するかたちで、同年12月に北米でローンチした経緯がある。同社は今後も世界各地域に同機能を普及拡大する考えだ。
現在、画像データを含む、子どもに有害なコンテンツはアップル純正のメッセージアプリに限らず、サードパーティのさまざまなアプリやサービスを通じて子どもに届く可能性がある。アップルによると、今後もサードパーティのアプリデベロッパーも同じ技術の仕組みが使えるように環境を整えるという。具体的なスケジュール感は示されていないが、静止画に限らず動画コンテンツの解析も視野に入れた検討が進められているようだ。
連載：デジタル・トレンド・ハンズオン
過去記事はこちら>>
