不快な投稿やコンテンツを制限

 
【Facebookの取り組み】
 
Facebookはこのたび、Facebookグループの安全性を高めるための新たな対策を発表しました。その一環として、規則に違反したユーザーが新しいグループを簡単には作成できないようにする取り組みをはじめました。この動きの背景には、ヘイトスピーチなどの不快なコンテンツへの対応が後手に回っているとして、人権団体や著名人、広告主だけでなく、Facebookの従業員までもが同社を批判しているという現状がありました。
 
今回の規則に少しでも違反したユーザーは30日間、新たな投稿について管理者またはモデレーターから承認を得ることが必要となります。また、管理者もしくばモデレーターがFacebookの規則に違反する投稿を繰り返し承認した場合は、グループが削除されます。このほか、健康関連の偽情報が問題となっていることから、健康関連のグループは「おすすめ」に表示されなくなります。
 
【You Tubeの取り組み】
 
米Google傘下のYouTubeは、プラットフォーム上で未成年者を保護するための複数の取り組みを発表しました。
 
１．機械学習で検出し、人間のTrust & Safetyチームが判定してきた年齢制限が必要な動画の判定が、AIによる自動化となります。年齢制限の対象となるのは、18歳未満の視聴者にふさわしくないと判断されたコンテンツ（YouTubeのポリシーには違反していなくても）で、18歳未満またはログインしていない視聴者は、制限を設定された動画を視聴できなくなります。
 
２．YouTubeの外で年齢制限が設定された動画を再生しようとすると、YouTubeにリダイレクトされるようになります。これにより、年齢制限のある動画がどこにあっても、適切な視聴者だけが視聴可能となります。
 
３．自動化すると対象動画が増えると想定し、年齢制限に関するポリシーを改めて調整。
 
『Facebook、規則違反者のグループ作成や投稿を制限』
（出典：2020年09月18日　CNET Japan記事より）
 
『YouTube、年齢制限動画検出をAIで自動化』
（出典：2020年09月23日　ITmedia記事より）
 

SNSの健全化を目指す取り組み

 
【ヤフーの取り組み】
 
ヤフーは、「Yahoo!ニュース」に投稿されたコメントの順位付けに使っているAI技術を他社にAPIとして無償提供する試みを始めました。コメント投稿機能があるサービスを展開する日本国内の法人が対象で、APIの連携によってネット上のコメント欄の健全化を後押しすることが目的です。
 
ヤフーは現在、深層学習を用いた自然言語処理モデルによって誹謗中傷などの悪質なコメントを検知し、1日に平均で約2万件を削除しています。さらにコメントをスコアリングし、客観的で根拠を示しているコメントや新しい考えなどを示すコメントを上位に表示するAI技術「建設的コメント順位付けモデル」を採用。今回、この建設的コメント順位付けモデルのAPIを無償で提供するというものです。
 
【Twitterの取り組み】
 
米Twitterは、記事のURL入りツイートをリツイート（RT）したり、引用ツイートする前に、リンク先の内容を確認するよう警告表示する機能を、一部ユーザーを対象に提供しています。記事をRTしようとしているユーザーに対して「見出しは、記事全体の内容を伝えてはいない」と表示。この警告は、一度大きく表示した後、2回目以降は小さくなる仕組みです。
 
このテストの結果、表示を見た後で記事を開くユーザーが40％増加、RTする前に記事を開くユーザーも33％増加したといいます。また、一部のユーザーは、記事を開いた後にRTをやめたという結果も出ています。
 
前週はSNSの誹謗中傷に関するユーザー視点の内容でしたが、今回はそのサービスを提供する側のサービス健全化を目指した取り組みをご紹介しました。インターネットの世界においても考え方はリアルな世界と同じく、上記にご紹介したようなある程度の秩序・ルールは必要です。その上で我々も法律やルールやモラルを意識した、正しい利用を心がけましょう。
 
『ヤフー、“ヤフコメ”の表示順位付け技術を無償公開　ネット上のコメント健全化目指す』
（出典：2020年09月18日　ITmedia記事より）
 
『Twitter、「リンク先を読んでからRTして」表示を全ユーザーに拡大へ』
（出典：2020年09月25日　ITmedia記事より）
 
『【9月第3週】SNSの誹謗中傷、被害者・加害者にならないために』
 
＊＊＊＊＊＊＊＊＊