ブルックリン出身のジャッキー・アルシンは6月28日の午後にGoogle Photosにログインした時、アルバムのタイトルが「ゴリラ」になっていることに気付き、強いショックを受けた。これは顔認識ソフトウェアが彼とその友人を霊長類だと分類したためである。
すぐに、アルシンはツィッターに次の内容を投稿した。
「Google Phots、お前らは全員クソ野郎だ。私の友達はゴリラではない」
このコメントは1000を越えるリツィートと、この状況がどれだけショッキングであるかのオンラインでの議論を促した。あるユーザは「これはとても受け付けられない下劣な話だ。このような無知による傷付けられるはめにあったことに同情を禁じ得ない」と返信した。
アルシンは続けて一連のツィートを投稿した。「私がこの問題が"どのように"起こったのか理解したように、この問題は"なぜ"の部分により存在する。つまり、これが人に対するターゲット・マーケットの決定方法だ。」と記した。(ターゲット・マーケットとは消費者等の対象者の分類や区分を示す)
Googleのソーシャル・チーフ・アーキテクトのヨナタン・ザンガーは直ぐに問題解決に動いた。アルシンの最初のポストから1時間以内に、ザンガーは、
「なんてことだ。私はGoogle Plusのチーフアーキテクトです。これがターゲット・マーケットの決定方法ではありません。これは100%、許されないことです」とツィートした。
彼のチームは直ぐにデータを見直し、この問題を解決した。ザンガーは次の朝にアルシンに対し、全ての問題は解決されたと伝えた。
Googleの広報は「我々はこの件に関し心からお詫びします。緊急に対応を行いこのような結果が再び起こらない様、防止策を講じました。画像に対する自動ラベリングには依然として多くの問題があります。私たちは将来に渡り、このような誤りを防ぐために何ができるかを常に追求していく所存です」と述べた。
Google Photosに誤ったラベルを貼られた被害者はアフリカ系アメリカ人だけではない。ザンガー自身も過去に「Google Photosは白人の顔と犬とアザラシの見分けがつかないことがある。機械学習は難しい」とツィートしていた。
機械学習とコンピュータ・ビジョンに基づく顔認識ソフトウェアが人々に対する識別において酷い誤りを犯したのはこれが初めてではない。
今年の5月には、Flickrの顔認識ソフトウェアが黒人と白人の両方に「動物」と「猿」とラベル付けした。(これらのタグは直ぐに削除された)。さらに、多くのネイティブ・アメリカンのダンサーの写真が「コスチューム」とタグ付けされた。これは彼らのコミュニティに対して大きな侮辱を与えた。
2009年には、ニコンの顔判定カメラが人種差別だとして議論に上がった。アジア人の顔が写真に撮られると、例え彼らの目が大きく開かれていても「瞬きをしましたか?」という警告が画面中央に表示されたのだ。ニコンは日本企業であるにも関わらず、アジア人の顔の特徴に配慮することを怠ったのかもしれない。
ニコンの騒ぎの数ヶ月後には、HPのメディア・スマート・コンピュータの誤作動に関するYoutubeビデオが口コミで流行った。これは全員の顔を追従するように設計されているにも関わらず、先頭で動いているアフリカ系アメリカ人の顔を認識することができなかった。しかし、カメラの前に白人の女性が現れると直ぐに彼女の顔を追跡し始めた。
このような事件はグーグルやニコン、HPらが顔認識ソフトウェアの裏に悪意を持っていることを示すものではないが、この種のテクノロジーが、まだ完全からは程遠いものであることは確かだ。
