ユーザーがコメントを投稿する際に、AIが他者を傷つける可能性のある投稿を見直すよう促すほか、特定のアカウントのコメントを非表示にし、ダイレクトメッセージに既読がつかない「制限」機能を設ける。
インスタグラムは7月8日、不快に思われる可能性があるコメントを、投稿前に知らせる機能を導入すると発表した。世界で大手テック企業への規制強化の声が高まるなか、フェイスブック傘下の同社は自主規制に乗り出した形だ。
ここで興味深いのは、ユーザーが不快なコメントを報告するのではなく、AIが「SNSの良心」を担う役割を果たしている点だ。AIの介入によって「コメントを再考したり書き直したりするチャンスが与えられ、相手を傷つけるようなコメントの投稿を防ぐ」と、インスタグラムの責任者のアダム・モッセーリは説明した。
ユーザーの投稿をAIが監視することに関しては、様々な議論が交わされてきたが、今回インスタグラムが導入した施策は、やや控えめなものといえる。コンテンツの削除やアカウントの制限を自動的に行う計画はまだないという。
モッセーリは「近日中に、望まないやりとりからアカウントを保護するための新しい制限機能のテストを開始する」と述べた。
「特定のアカウントを制限すると、自分の投稿に対してそのアカウントがシェアしたコメントは、相手にのみ表示されるようになる。制限したアカウントからのコメントを承認すれば、他の利用者に表示することも選択できる」とモッセーリは続けた。
さらに、自分がインスタグラム上でオンラインであることや、DMを既読したことも、制限したアカウントには表示されない仕様になるという。
ユーザー同士の関係の悪化を防ぐため、インスタグラムは制限したアカウントにはその旨を通知しないという。今回の2つの新機能は、インスタグラムの本来の良さを保ちつつ、状況を改善することにつながるだろう。
SNSの規制強化が叫ばれる中、AIを用いた投稿の監視に注目が高まっている。AIで投稿をフィルタリングする、安全メカニズムの導入は正しい方向といえそうだ。この流れに続く企業が今後も増えることが予想される。
