【アメリカ】フェイスブック、リベンジポルノ検知テクノロジー発表。通報・相談体制も強化

　IT世界大手米フェイスブックは3月15日、相手の許可を取得していない性的画像・動画（リベンジポルノ）を自動検知し、拡散を防止するテクノロジーを発表した。同テクノロジーは、機械学習等の人工知能（AI）を用いて、フェイスブックとインスタグラムで許可なしに投稿された画像や動画を検知できる。

　これまでフェイスブックは、リベンジポルノ対策として、通報を受けてから対応をしてきたが、投稿されていることに気づいていなかったり、相手からの報復を恐れて通報を躊躇するケースなどが見られた。そこで今回フェイスブックは、通報を受ける前から自動的に検知し、同社のコミュニティ基準に違反していると判断されれば、当該画像や動画は削除されるとともに、アカウントも停止されうる。フェイスブックは、削除や停止された措置への不服対応としての苦情受付窓口も用意する。

　同社は他にも、犠牲者支援団体とともに運営しているリベンジポルノ対応のパイロットプログラムも実施している。同プログラムでは、緊急時にフェイスブックに問題のある画像を提出し、フェイスブック側は当該画像に「デジタル指紋」を付与。それにより当該画像がシェアされるのを防ぐことができる。この取り組みがうまくいけば、数ヶ月以内に対象者を拡大する予定。

　犠牲者の事後サポート体制も強化する。フェイスブックの「安全センター」内に、リベンジポルノ対応プログラム「Not Without My Consent」を設置し、犠牲者の相談に応じる。社外の英Revenge Porn Helpline、米Cyber Civil Rights Initiative、パキスタンDigital Rights Foundation 、SaferNet（ブラジル）、韓国Lee Ji-yeon教授らとパートナーシップを締結した。

【参照ページ】Detecting Non-Consensual Intimate Images and Supporting Victims

株式会社ニューラル サステナビリティ研究所