【アメリカ】インスタグラム、ネットいじめ対策機能搭載。投稿前警告と閲覧制限指定

　フェイスブックが運営している「インスタグラム」は7月8日、同社アプリを用いた「ネットいじめ」対策として新機能を搭載したと発表した。開発ニシアしては、AIを用いていじめの事象や原因を深く探ったという。

　まず、投稿前のメッセージに、いじめにつながる攻撃的な内容が含まれているかをAIが自動的に判断。含まれていると判断した場合には、投稿者に警告し、再考を促す。機能開発での実験では、思いとどまらせる効果が確認できたという。

　また、すでにいじめの対象になってしまった人への救済として、新機能を追加する。ネットいじめでは、いじめ実行者のアカウントをブロック、フォロー外し、相談窓口へのいじめ報告を行うと、事態をエスカレートさせ、さらに孤立してしまうことをおそれ、手立てを講じられないでいる被害者も少なくない。そこでインスタグラムは、新たに「制限（Restrict）」という機能を搭載。制限指定されたユーザーのコメント投稿は、指定したユーザーのメッセージボードでは、当事者しか閲覧できず、その他の人には投稿したことがわからなくできる。指定したユーザーが承認すれば、他のユーザーも閲覧できるようになる。

【参照ページ】Our Commitment to Lead the Fight Against Online Bullying

株式会社ニューラル サステナビリティ研究所