悪質なツイートに関しては「匿名だからだ」という批判がある。こうした日本独自の利用のされ方は「日本社会はしがらみがあったり、リアルでは人に厳しい意見を言いづらい。ツイッター上で匿名であるがゆえに、自身の意見を自由に発言できる」と山内は指摘した。
「会話の健全性」の担保と匿名であるがゆえの自由な発言のバランスは非常に難しい。コールマンは「単純にツイッターのポリシー違反であるなどではなく、会話に生産性があるか、ポジティブなのかが重要になってくる」と語った上で、「ポジティブな会話に対しインセンティブをどのように与えれば良いかを試している」という。たとえば、機械学習で事前にポリシー違反のアカウントを検知した場合、同じような振る舞いをするアカウントが増えないような対策を立てている。
ツイッターには明確なポリシーやルールがある。たとえば「暴言や脅迫、差別的言動に対するツイッターポリシー」ではヘイト行為を禁じているし、児童の性的搾取に関しても一切禁じている。
こうしたポリシー違反に対し「（ポリシーやルール違反を発見したユーザーが）申告しやすくなるような改善をプロダクトチームは行っている。（違反アカウントへの）アカウントの凍結などの対応を執行する部隊を今年から強化している」と日本の政策広報担当者は語った。
先に開かれた「災害に備えるためのツイッター活用法」のラウンドテーブルでツイッタージャパンは、収益可能な1日あたりのアクティブユーザー数（mDau）は1億3900万。日本のツイッターユーザーの平均年齢は35歳で、他のSNSがリラックスタイムの利用が多いのに対し、ツイッターは朝から晩まで一日中利用されていることを明かした。もはやインフラと言っても過言ではないツイッター。「会話の健全性」へプロダクト面からアプローチするコールマンらの挑戦は続く。
