AIとフェイクニュース 「量産」の恐怖と「撲滅」への期待

「NHK」などのフェイクニュースを指摘したスティーブン・バノン(Photo by Joe Raedle / gettyimages)


研究チームが見つけたフェイクニュースの特徴的な伝播パターンは3つだ。まずひとつは、パターンが「ギザギザ」であるということ。一般的なニュースは、初期にだけ関心が高まり、やがて低くなる「山」のようなパターンを描く。しかし、フェイクニュースの場合、発信者が一定の目標を達成しようと人為的な検索やコメント書き込みを行うため、ジェットコースターのようなギザギザの伝播パターンが生まれるというわけだ。

次に伝播者間のネットワークに差がある。フェイクニュースは、関連がないユーザーたちが散発的に参加することで伝播される傾向にあるという。インフルエンサーなどフォロワーが多いユーザーが呼応する割合が低いというのも特徴だ。

最後に、フェイクニュースは一定の「言語的パターン」を伴い伝播する傾向がある。より具体的に言えば、「○○で聞いたのだけれど」、「デマかもしれないが」など「責任回避性言語」が使用される特徴があるという。

フェイクニュースをAIで見破る研究は日本でも行われているが、今後さらなるイノベーションが期待される分野だ。

一方、英国では「Google Digital News Initiative」が後援する「Reporters and Data Robots initiative(以下、RADAR)」が、編集者やジャーナリストをサポートするため、人間とロボットが共同で作成したコンテンツを販売する試みを進めている。

RADARは人間が作成した資料に各種統計情報を挿入するソフトウェアを開発。実際に、協業によって生み出された資料(RADAR側はストーリーと呼んでいる)を、35の地方メディアに提供している。実際、11月末から始まったテストで作成・配布された資料は、20の出版物に記事として掲載されたという。

例えば、ウェスト・ミッドランズのメディア「Express and Star」は、「ウルヴァーハンプトン地域で最近母になった人々のほとんどが未婚」という記事を掲載。一方、ロンドン南部の主要週刊誌「Croydon Advertiser」は、「昨年10月、同地域の病院において命を救えた手術7件がキャンセルされた」という記事を掲載している。

この手の「ロボット記者」、もしくは「精査した情報をメディアに提供するビジネスモデル」は、これまで人間の記者が追われていた裏取り作業を代替したり、より重要なニュースを選び取る作業を簡易的にしてくれるかもしれない。そして大局的には、フェイクニュースの排除を促す可能性もある。

「人工知能がジャーナリズムに寄与できる領域はますます増えていくでしょう。政治家の過去の発言を洗いなおすなど、ファクトチェックの方向でも力を発揮するはずです」(ソウル大学のAI開発関係者)

余談だが、現在、世界では人工知能を使って新しい文章やニュースを自動的に作成する試みも進められている。地震・スポーツ速報においては、実用化も始まっている段階だ。ただ将来的にそれらの技術が悪用されてしまえば、フェイクニュースが大量に生まれるという可能性も否定できない。

「音楽やイメージもそうですが、いずれテキスト情報をAIが自動生成する時代がやってくるでしょう。人間を惹きつける文章を自由自在に生み出すというのはまだまだ難しいかもしれませんが、可能性は0ではありません」(日本のAI研究関係者)

AIテクノロジーは、フェイクニュースを量産する方向で悪用するのか、はたまた撲滅する方向で発展するのだろうか。2018年の動向には、これまで以上に目を傾ける必要がありそうだ。

文=河鐘基

タグ:

ForbesBrandVoice

人気記事