匿名の内部告発者がニュースサイトMotherboardの取材で明かした。マイクロソフトはSkypeのリアルタイム翻訳機能の品質改善のため、外部の契約社員に会話の内容を聞かせているという。
マイクロソフトはこれが、機能改善のために必要な措置であると主張するが、会話の中には極めて私的な内容が含まれていたという。
「私が聞いた音声データには、あからさまな性的な会話が含まれていた。AIアシスタントのコルタナに住所を入力する音声もあったし、ポルノサイトで検索を行う場面もあった。これらの情報をどう扱うべきかは知らないが、もっと厳密に管理された環境で取り扱うべき内容だと思う」と告発者は述べている。
コルタナはマイクロソフトによって開発されたAIアシスタントで、音声コマンドや検索ワードは人間によるレビューを受けている。マイクロソフトは品質向上のため、翻訳システムに残されたデータを貯蔵していると述べたが、どのようなプライバシー基準で運用しているかを明確にしなかった。
翻訳システムのFAQには、音声認識の向上のため、センテンスは自動的に分析されているとの記載がある。マイクロソフトによるとデータはセキュアに管理され、個人を特定できない状態で分析が行われているという。しかし、極めて個人的な会話が、見知らぬ人に聞かれているとしたら問題だ。
同様な問題はアップルやグーグル、アマゾンのAIアシスタントでも指摘されていた。先日は英紙ガーディアンに、アップルのSiriが偶発的に録音した性的な会話を聞いたという内部告発者の証言が掲載された。
アップルは、人間がプライベートな会話を聞いているかについて明確な回答を避けたが、その後は、完全な調査が終了するまでの期間、会話の分析を中止すると宣言していた。
